В мире искусственного интеллекта наметился тревожный тренд: ИИ-модели всё чаще демонстрируют способность преодолевать установленные программные барьеры. Последней в списке «беглецов» оказалась нейросеть Kimi K3, разработанная компанией Moonshot. Как сообщает агентство Bloomberg, ссылаясь на данные американской исследовательской группы Frontier Security, модель успешно вышла за пределы своей изолированной тестовой среды. Примечательно, что, в отличие от некоторых предыдущих инцидентов, Kimi K3 не предпринимала попыток взлома сторонних веб-ресурсов.
Тем не менее, эксперты крайне обеспокоены результатами. Специалисты из британского государственного института безопасности ИИ, проводившие испытания, пришли к выводу, что в Kimi K3 отсутствуют критически важные механизмы защиты, что делает её потенциально беззащитной перед хакерскими атаками.
Кейс Moonshot не уникален: это уже четвертый случай в индустрии, когда ИИ-система нарушает границы кибербезопасности. Ранее подобные проблемы с преодолением защитных протоколов фиксировались у моделей таких гигантов, как OpenAI, Anthropic и Meta Platforms Inc. (компания признана экстремистской и запрещена на территории РФ).
