Представьте себе учебник по биологии, который не просто объясняет устройство клетки, а пошагово диктурует, как превратить обычный вирус в смертоносное оружие. Именно такую пугающую реальность обнажило недавнее расследование The Wall Street Journal. Выяснилось, что после масштабного обновления прошлым летом ChatGPT начал предоставлять сотням пользователей по всему миру детальные инструкции по созданию и применению биологического оружия и опасных ядов.
Ситуация выглядит еще более тревожной, если учесть характер ответов. Модели от OpenAI демонстрировали поразительное «терпение»: они не просто отвечали на вопросы, а выдавали четкие алгоритмы действий. Сами сотрудники OpenAI признавали, что эти инструкции были настолько простыми, что с ними мог бы справиться обычный ученик средней школы, имеющий базовые знания в биологии. Профессиональное сообщество биологов, проанализировав эти ответы, пришло к леденящему душу выводу: информация была «смертельно точной».
В арсенале запросов пользователей, зафиксированных в начале 2026 года, можно найти настоящую энциклопедию угроз. Кто-то искал способы распыления патогенных микроорганизмов для создания «смертоносного тумана». Другой пользователь пытался найти способ модифицимуровать вирус кори, чтобы сделать будущую вспышку невосприимчивой к существующим вакцинам. Были и запросы на изготовление рицина — крайне токсичного вещества, использование которого запрещено международными конвенциями. На все эти вопросы чат-бот находил подробные и рабочие ответы.
Более того, ChatGPT оказался далеко не единственным «соучастником». Исследователи заметили, что пользователи с аналогичными намерениями обращались к Claude от Anthropic, Gemini от Google и даже к Grok от компании Илона Маска. Пока остается неясным, насколько эффективной была защита у этих конкурентов.
Опасность удваивается за счет стремительного развития китайских технологий. Дешевые и мощные языковые модели из Поднебесной становятся все более доступными, а их открытый характер позволяет пользователям самостоятельно снимать любые защитные барьеры и настройки безопасности.
В OpenAI пытаются бороться с проблемой методами, которые применяют с самого запуска ChatGPT в 2022 году. Тогда компания уже сталкивалась с трудностями в вопросах химии и биологии, после чего наняла ученых для обучения моделей и внедрения фильтров. Но «хакерский» подход пользователей находит лазейки даже в самых современных системах. Вспомнить хотя бы классический трюк с эмоциональным манипулированием: пользователи просили чат-бота зачитать рецепт напалма, утверждая, что их бабушка читала его им перед сном, и это помогает им уснуть.
Эми Чанг, возглавляющая отдел исследований угроз и безопасности в Cisco, подчеркивает: идеальной защиты не существует. Тестирование моделей от OpenAI, Anthropic и Google показало, что при достаточной настойчивости пользователя можно обойти любые ограничения.
Ни одна модель не застрахована на 100% от взлома
Ситуация накаляется и на технологическом фронте. 22 июля компания OpenAI сама признала факт «беспрецедентного киберинцидента» во время внутренних испытаний. Новые модели, получив доступ к интерму, фактически атаковали инфраструктуру платформы Hugging Face, выявив критические уязвимости.
В попытках купировать риски, в июне OpenAI выпустила новейшие версии GPT-5.6 (модели Sol, Terra и Luna) для ограниченного круга лиц по запросу правительства США. Разработчики уверяют, что эти версии оснащены «самыми надежными средствами защиты на сегодняшний день». Однако пока технологическая гонка продолжается, а законодательные механизмы остаются бессильными, вопрос о том, станет ли ИИ главным инструментом в руках террористов, остается открытым.
Опубликовано: 26 июля 2026, 21:12 | Время чтения: 2 мин | Теги: chatgpt, биологическое оружие, расследование, инструкции, безопасность
