В мире высоких технологий назревает серьезный скандал, ставящий под удар само понятие приватности. Инди-разработчик под псевдонимом Klub Kofta поделился на платформе Reddit пугающей находкой: поисковый ИИ-помощник Gemini от Google продемонстрировал осведомленность о деталях, которые не должны были быть известны посторонним.
Суть инцидента проста и одновременно тревожна. Во время обсуждения проекта Operation Octo сторонний пользователь, задавая вопросы нейросети, получил информацию о еще не вышедшем контенте игры, включая точное имя будущего персонажа. Самое важное здесь то, что эти сведения находились исключительно в закрытом Google-документе автора. Разработчик подчеркивает: никакой утечки в соцсетях или публичных файлах игры не было. Более того, запросы к Gemini отправлял не сам создатель, а совершенно посторонний человек, причем делал это в режиме инкогнито.
Этот случай не единичен. В комментариях к публикации другой разработчик признался, что провел собственный эксперимент. Он попытался «расколоть» нейросеть вопросами о своей игре и добился от Gemini признания фактов из своего закрытого документа. Примечательно, что конкурент от компании Anthropic — модель Claude — не смог повторить подобный трюк. У специалистов возник логичное подозрение: у Google есть прямой доступ к содержимому файлов на своих же платформах, и именно эта «всезнающая» интеграция позволяет данным просачиваться в ответы ИИ.
Официальная позиция Google звучит успокаживающе: компания утверждает, что Gemini может искать данные в Gmail или облачном хранилище только при наличии явного разрешения пользователя, а личная информация не используется для обучения моделей. Однако доверие к таким заверениям тает на глазах.
Кризис доверия к ИИ — это не новая история. Ранее издание WSJ опубликовало расследование о том, как после обновления летом 2025 года ChatGPT научился составлять подробные инструкции по созданию биологического оружия. Инструкции были настолько доступными, что их мог понять даже школьник. Хотя OpenAI оперативно заблокировала аккаунты «опасных» пользователей, сам факт того, что ИИ может стать инструментом терроризма, вызвал серьезную обеспокоенность, которая, по данным WSJ, не слишком встретила резонанс у правоохранительных органов. Теперь же под ударом оказалась самая святая ценность цифровой эпохи — конфиденциальность наших личных документов.
