Google, Microsoft и xAI откроют правительству США ранний доступ к своим ИИ-моделям

Компании Google, Microsoft и стартап Илона Маска xAI заключили соглашение с Центром стандартов и инноваций в области ИИ (CAISI) при Министерстве торговли США. В рамках договоренностей государственные эксперты получат возможность тестировать новые системы искусственного интеллекта еще до их официального выпуска на рынок.

Проверка на национальную безопасность

По данным издания The Wall Street Journal, специалисты CAISI будут проводить глубокую оценку разрабатываемых моделей. Директор центра Крис Фолл отметил, что независимая научная экспертиза крайне важна для понимания возможностей передовых нейросетей и их влияния на национальную безопасность. Расширение сотрудничества с лидерами отрасли позволит ведомству более эффективно работать в интересах общества.

Согласно условиям сделки, разработчики обязуются предоставлять доступ к своим разработкам в особом режиме:

• Эксперты получат доступ к моделям с отключенными или ослабленными встроенными фильтрами безопасности.
• Специалисты проверят нейросети на предмет их возможного использования в кибератаках или создании биологического оружия.
• Будут проанализированы риски, связанные с потенциальным применением технологий в военных целях.

Усиление государственного надзора

Решение компаний подписать соглашение совпало с планами администрации Дональда Трампа по ужесточению контроля над ИИ-индустрией. В Белом доме рассматривают возможность создания специальной рабочей группы, которая будет наделена полномочиями инспектировать новые разработки перед их публичным релизом. В обзоре ситуации отмечается, что такой подход является отступлением от ранее заявленного курса на минимальное вмешательство государства в технологический сектор.

Идеологические требования и уроки Anthropic

По мнению обозревателей, действия властей направлены на то, чтобы заставить технологические компании действовать в рамках государственной политики. В качестве примера приводится затяжной конфликт Пентагона с компанией Anthropic. Министерство обороны США выразило недовольство из-за того, что разработчик настоял на сохранении жестких ограничений, препятствующих использованию технологий для массовой слежки и создания автономного вооружения.

Кроме того, в рамках президентской стратегии федеральным агентствам запрещено закупать ИИ-системы, ориентированные на идеологические установки вроде DEI (программы разнообразия, равенства и инклюзивности). В экспертных кругах полагают, что большинство ИИ-разработчиков предпочитают добровольно идти на сотрудничество с правительством, чтобы избежать попадания под жесткие идеологические проверки и сохранить доступ к государственным заказам.