OpenAI сообщила о сотрудничестве с Anthropic и Google по вопросам безопасности ИИ

Компании совместно работают на протяжении нескольких недель

Компания OpenAI работает над мерами по обеспечению безопасности искусственного интеллекта совместно со своими главными конкурентами — Anthropic PBC и Google DeepMind, пишет Bloomberg. Такое сотрудничество показывает растущую обеспокоенность тем, что данная технология может представлять угрозу для экономики и национальной безопасности.

Крис Лехейн, директор OpenAI по глобальной политике, заявил во вторник, что взаимодействие компании с Anthropic и Google ведется уже несколько недель. Он добавил, что OpenAI не видит необходимости в получении специального разрешения, освобождающего от соблюдения антимонопольного законодательства, для координации действий этих трех компаний в вопросах безопасности.

«Лучше попытаться работать вместе, уделяя первостепенное внимание безопасности», — сказал Лехейн на брифинге в Вашингтоне.

Опасения по поводу экзистенциальных рисков, связанных с ИИ, вышли в публичную плоскость после того, как в субботу генеральный директор Anthropic Дарио Амодеи опубликовал статью по этой теме. В ней он призвал притормозить разработку наиболее совершенных систем, чтобы исследователи могли лучше понять потенциальные угрозы. Идеи Амодеи быстро поддержали генеральный директор OpenAI Сэм Альтман и глава SpaceX и xAI Илон Маск.

Антимонопольные регуляторы США уже выражают скептицизм по поводу предоставления компаниям, занимающимся ИИ, исключений для координации действий в сфере безопасности. Председатель Федеральной торговой комиссии Эндрю Фергюсон заявил во вторник, что отнесется к подобным запросам «с глубоким недоверием».

Фергюсон добавил, что расценивает действия компаний в сфере ИИ как попытку «создать барьеры для входа на рынок», которые защитят их бизнес от конкурентов. «Это очень похоже на создание защитного рва вокруг своего бизнеса», — заявил он.

В ходе брифинга Лехейн заявил, что совместная работа компаний над вопросами безопасности имеет множество прецедентов, и привел в пример авиационную отрасль. «В истории немало случаев, когда компании помогали друг другу в вопросах безопасности», — сказал он.

Лехейн сообщил, что находится в Вашингтоне для встреч с американскими законодателями и что OpenAI поддержит двухпартийные инициативы, направленные на предотвращение потенциальных катастрофических рисков, связанных с ИИ.

По словам Лехейна, среди мер, поддерживаемых OpenAI, — проект системы федерального регулирования ИИ, предложенный членом Палаты представителей от Республиканской партии Джеем Обернолте и демократом Лори Трахан. Компания также поддерживает разрабатываемый в Сенате законопроект, призванный решить проблему с рисками ИИ.

Как отмечает агентство, вряд ли Конгресс в ближайшее время займется законодательством в сфере ИИ, поскольку Палата представителей должна покинуть Вашингтон в четверг и не вернется к работе до завершения ноябрьских выборов. Ожидается, что короткая сессия уходящего состава Конгресса, которая пройдет после выборов, будет посвящена плану увеличения бюджета Пентагона.

Президент США Дональд Трамп также выразил решительное несогласие с любыми попытками ввести ограничения или меры контроля в сфере ИИ. В понедельник в серии публикаций в социальных сетях Трамп пренебрежительно отозвался об инициативе компаний Anthropic и OpenAI, призывающих замедлить разработку передовых систем ИИ.