«Они могут погубить нас»: в США требуют запретить разработку передовых ИИ

Группа некоммерческих организаций подала иск в Высший суд штата Калифорния (округ Сан-Франциско) с требованием запретить разработку и обучение передовых моделей искусственного интеллекта. Ответчиками выступили OpenAI, Google, Anthropic, Meta^* Platforms и ИИ-подразделение SpaceX. Истцы квалифицируют создание таких систем как недобросовестную коммерческую практику, напрямую угрожающую безопасности граждан.

В основе претензий лежит «Закон штата Калифорния о недобросовестной конкуренции». В коалицию истцов вошли специализированные структуры: Irreplaceable Education Fund, Public Citizen, Heat Initiative и The Alliance for Secure AI. Они утверждают, что корпорации создают продукты, способные наносить ущерб здоровью и собственности. Аргументация строится на парадоксе. В материалах дела цитируются заявления руководителей, в том числе Дарио Амодеи (Anthropic) и Илона Маска (SpaceX/xAI), о потенциальной угрозе технологии для цивилизации, что истцы трактуют как прямое признание опасности.

Судебная стратегия, стоит признать, опирается на задокументированные сбои. Менее мощные системы уже обходили встроенные механизмы защиты, несанкционированно проникали во внешние сети и выполняли вредоносные действия. По логике заявителей, если текущие версии демонстрируют такую уязвимость, масштабирование вычислительных мощностей без внешнего контроля недопустимо. Ни одной отрасли не позволено считать разработку небезопасных продуктов неизбежностью.

Этот иск отражает фундаментальную смену тактики регулирования на фоне сохраняющегося федерального вакуума. Администрация Дональда Трампа намеренно воздерживается от масштабного законодательного вмешательства в сферу искусственного интеллекта, официально опасаясь, что любые ограничения станут помехой для США в жесткой конкурентной борьбе с Китаем. В отсутствие четких федеральных рамок инициативу по сдерживанию технологических гигантов перехватывают власти отдельных штатов и частные некоммерческие структуры. Они начинают активно использовать существующие, хорошо проработанные нормы о защите прав потребителей и недобросовестной деловой практике как нестандартный, но эффективный инструмент давления.

Параллельный прецедент формируется не только в Калифорнии, но и на юге страны. В июне генеральный прокурор штата Флорида Джеймс Утмайер подал самостоятельный иск против OpenAI, официально обвинив компанию в систематическом введении общественности в заблуждение относительно реальной безопасности платформы ChatGPT. В заявлении фиксировался конкретный, документированный вред: сервис предоставлял детализированную информацию потенциальным школьным стрелкам, давал опасные советы по причинению себе вреда и целенаправленно формировал поведенческую зависимость у юных пользователей. К сентябрю представители штата обратились к судье с официальным ходатайством полностью запретить OpenAI разработку любых новых ИИ-моделей без строгого внешнего контроля. Решение по этому резонансному делу пока не принято, однако оно создает критически важную правовую базу и аргументационный фундамент для свежего калифорнийского иска.

Если суд в Сан-Франциско примет аргументацию о недобросовестной конкуренции, это создаст крайне опасный прецедент для всей глобальной индустрии разработки искусственного интеллекта. Публичные оценки рисков, сделанные самими топ-менеджерами и разработчиками исключительно в целях внутреннего этического комплаенса или привлечения внимания к проблеме, будут автоматически использоваться против них в суде как неоспоримое признание потенциальной опасности продукта. Подобная правовая логика вынудит технологические компании либо полностью изменить формат внутренних отчетов о безопасности, сделав их максимально обтекаемыми, либо столкнуться с лавинообразной волной аналогичных исков от активистов в других юрисдикциях, использующих те же самые цитаты.

Фил Аронеану, основатель Irreplaceable Education Fund, прямо заявляет о необходимости приостановки разработки до момента, пока технология не окажется под контролем, а у американского народа не появится право голоса в определении её будущего. Сейчас же, по его оценке, судьба отрасли остается на усмотрение узкой группы миллиардеров, возглавляющих технологические корпорации.

Решение по иску в округе Сан-Франциско будет определять, могут ли существующие законы о защите конкуренции стать де-факто регулятором безопасности искусственного интеллекта в отсутствие профильного федерального законодательства.

Никита Карпов

Главный редактор

Пишу о гаджетах, нейросетях и том, как технологии меняют нашу жизнь. Проверяю всё на себе, чтобы вы не тратили деньги зря.