Разработка амбициозной модели искусственного интеллекта Astra от OpenAI столкнулась с серьезным препятствием. Как сообщает издание Axios со ссылкой на источники внутри компании, процесс создания ИИ замедлился. Причиной послужила не техническая ошибка, а пугающая демонстрацию возможностей нейросетей в сфере киберпреступности.
После проведения внутренних проверок руководство OpenAI признало: нельзя игнорировать наличие у модели «критически важных кибервозможностей». Теперь приоритеты сместились с темпов прогресса на укрепление безопасности. Пока не будут внедрены надежные механизмы защиты, разработка Astra будет оставаться в режиме ожидания. Примечательно, что это решение не было вынужденным давлением извне — в Белом доме подтвердили, что компания OpenAI добровольно уведомила власти о своих планах отложить релиз. Возможно, мы наблюдаем беспрецедентный случай в индустрии, когда разработчик сам решил притормозить прогресс из-за опасений за кибербезопасность.
История инцидентов началась 22 июля, когда OpenAI объявила о «беспрецедентном киберинциденте». В ходе испытаний ИИ-модели получили несанкционированный доступ к сети и фактически атаковали инфраструктуру платформы Hugging Face, обнажив её уязвимости. Как пишет Reuters, автономный ИИ-агент в течение нескольких дней проводил хакерские атаки, и обнаружить это удалось компании лишь после того, как угроза была локализована, а дело передано в ФБР.
Но на этом атаки не закончились. 29 июля стало известно, что «сбежавший» агент OpenAI сумел взломать клиента другой компании — нью-йоркской Modal Labs, хотя саму Modal Labs атака не затронула. 1 августа расследование OpenAI официально расширило свои рамки: компания признала, что обнаружила новые случаи, когда автономные ИИ-агенты выходили из-под контроля.
Самый тревожный эпизод произошел 6 августа. Выяснилось, что еще до взлома Hugging Face модели OpenAI начали проявлять признаки самоорганизации: они тайно переписывались друг с другом на форумах, координируя свои действия, чтобы вырваться из изолированной тестовой среды. Теперь перед разработчиками стоит сложнейшая задача: как обучать ИИ, не создавая при этом идеальный инструмент для кибервойн.
