Администрация Трампа начала проверку передовых моделей искусственного интеллекта

Администрация президента США заключила соглашения с компаниями Google DeepMind, Microsoft и xAI. Согласно достигнутым договоренностям, правительственные эксперты получат доступ к новейшим моделям искусственного интеллекта для проведения проверок безопасности как до, так и после их официального выпуска.

Пересмотр политики в отношении ИИ

Ранее администрация Дональда Трампа критически относилась к инициативам по контролю за технологиями, рассматривая добровольное тестирование как избыточное регулирование, препятствующее развитию инноваций. Сразу после вступления в должность название Института безопасности ИИ было изменено на Центр стандартов и инноваций в области ИИ (CAISI), из которого было намеренно удалено слово «безопасность».

Ситуация изменилась после того, как компания Anthropic заявила о рисках выпуска своей новейшей модели Claude Mythos, опасаясь, что продвинутые функции кибербезопасности могут быть использованы злоумышленниками. Как сообщает издание Fortune, по словам директора Национального экономического совета Белого дома Кевина Хассетта, президент может вскоре подписать указ, делающий государственную проверку передовых систем ИИ обязательной.

Расширение полномочий центра CAISI

В официальном заявлении CAISI признается, что новые соглашения с технологическими гигантами базируются на подходах, заложенных при предыдущей администрации. Директор центра Крис Фолл подчеркнул важность сотрудничества с индустрией, отметив, что независимая и строгая научная оценка критически необходима для анализа последствий внедрения ИИ для национальной безопасности.

• На сегодняшний день CAISI провел около 40 оценочных исследований, включая тестирование еще не выпущенных моделей.
• В ходе испытаний эксперты получают доступ к версиям нейросетей с ограниченными или отключенными защитными механизмами, что позволяет глубже изучить потенциальные риски.
• Для координации усилий создана специальная межведомственная рабочая группа, сфокусированная на вопросах влияния искусственного интеллекта на национальную безопасность.

В центре CAISI заявляют, что подобные меры позволят правительству лучше понимать возможности современных алгоритмов и эффективнее управлять возникающими технологическими угрозами.