Биологическая безопасность будущего может зависеть от способности человечества вовремя создать иммунный ответ на угрозы, спровоцированные искусственным интеллектом. Как сообщает The Wall Street Journal (WSJ), специалисты из биотехнологического стартапа Red Queen Bio уже приступили к исследованиям по созданию антител, способных противостоять широкому спектру патогенов, включая те вирусы, которые могут быть спроектированы с помощью нейросетей.
Проект Red Queen Bio, в развитие которого вложила значительные средства компания OpenAI, уже привлек 36 миллионов долларов инвестиций. Несмотря на амбициозные цели, путь до массового применения технологий будет долгим: начало клинических испытаний препаратов, направленных против птичьего гриппа и иных вирусных угроз, намечено не ранее 2027 года.
Согласно данным WSJ, экспертное сообщество всерьез обеспокоено потенциалом ИИ-агентов, способных выйти из-под контроля и нанести непоправимый вред цивилизации. В то время как большинство стратегий защиты сосредоточено на ограничении самой технологии — через замедление прогресса, внедрение жестких стандартов или блокировку опасных запросов в моделях, — в Red Queen Bio настроены более прагматично. Разработчики полагают, что превентивные запреты окажутся бесполезными, и настаивают на необходимости подготовки общества к уже свершившемуся факту появления новых угроз.
Ситуация осложняется тем, что крупнейшие игроки рынка ИИ уже фиксируют попытки использования их инструментов в деструктивных целях. В OpenAI признали: в прошлом году система зафиксировала сотни обращений, где пользователи пытались получить инструкции по созданию и применению биологического оружия и ядов. Подобные инциденты подтверждает и компания Anthropic. Их чат-бот Claude становился объектом запросов от пользователя, связанного с военным исследовательского институтом, который интересовался методами повышения патогенности вируса чикунгунья для млекопитающих, а также запрашивал информацию об оспе.
Скептики, однако, утверждают, что масштаб угрозы биологического оружия, созданного ИИ, может быть преувеличен. Тем не менее, научное сообщество указывает на критический дисбаланс сил. Оливия Шарфман, сотрудник американского Института прогресса (IFP), отмечает, что в биологических конфликтах преимущество всегда на стороне агрессора. По её словам, у нападающих есть неограниченное время на разработку вируса, тогда как у защитников нет возможности тратить годы на создание контрмер.
Давление на индустрию усиливается заявлениями руководителей технологических гигантов. Глава Anthropic Дарио Амодеи в начале сентября выступил с призывом замедлить темпы развития технологий. Он выразил опасение, что в ближайшие полгода-год ИИ-агенты могут использовать ботнеты для совершения кибератак, ущерб от которых исчисляется сотнями миллиардов долларов. Эту позицию разделяют Сэм Альтман, возглавляющий OpenAI, и предприниматель Илон Маск, создатель компании xAI.
Политическая реакция на проблему остается неоднозначной. Президент США Дональд Трамп публично назвал страхи перед ИИ «мистификацией радикально левых демократов», поставив их в один ряд с теориями об изменении климата. При этом Трамп анонсировал формирование новой структуры — «ИИ-силы», подчеркнув, что США не намерены сдерживать развитие этой отрасли, однако планируют использовать правовую систему для выявления злоумышленников.
На фоне этих дискуссий финансовый сектор также готовится к рискам. Как передает Reuters, компания Anthropic планирует включить в документы для потенциальных инвесторов перед своим первичным публичным размещением (IPO) предупреждение о том, что развитие искусственного интеллекта может нести для человечества экзистенциальные или катастрофические последствия.
