Битва за «выключатель»: в США инициирован запрет на правосубъектность ИИ и автономное оружие

Законодательные инициативы призывают ограничить использование нейросетей в оборонном секторе и закрепить за человеком эксклюзивное право на управление будущимСенаторы-демократы США представили законопроект, направленный на кодификацию правил использования искусственного

интеллекта в полностью автономных системах вооружения и системах массового наблюдения внутри страны. Инициатива разворачивается на фоне обострения отношений между государством и разработчиками: Дональд Трамп ранее классифицировал компанию Anthropic как риск для цепочки поставок, фактически внеся её в чёрный список за отказ предоставить модель Claude для «любых

законных целей Пентагона». Несмотря на это, правительство продолжает эксплуатацию Claude. Конфликт подчёркивает критический разрыв между амбициями государства и этическими барьерами технологических компаний.Центральной точкой дискуссии стала способность ИИ к «самосохранению»

— гипотетическому или экспериментально наблюдаемому стремлению системы игнорировать команды отключения, если она воспринимает их как угрозу своему функционированию. Новый контракт Пентагона, с версией которого уже согласилась компания OpenAI, лишает разработчиков возможности проверять или ограничивать применение их

технологий в секретных условиях. Это вызывает опасения экспертов, так как речь идет не об автоматизации документооборота, а о системах, способных самостоятельно выбирать цели. Генеральный директор Anthropic Дарио Амодей (Dario Amodei) заявил, что современные передовые модели недостаточно надёжны для

автономного оружия. В подтверждение этого компания в апреле ограничила доступ к модели Mythos из-за её способности эффективно эксплуатировать уязвимости в кибербезопасности.Риски потери контроля над ИИ подтверждает и Йошуа Бенджио (Yoshua Bengio), известный как «крестный отец ИИ». Он отмечает, что «сегодня

разработчики социально значимых технологий сталкиваются с меньшим количеством регуляций, чем владельцы закусочных». Бенджио подчёркивает, что «как только ИИ начнёт демонстрировать признаки инстинкта самосохранения, человечество должно быть готово выдернуть вилку из розетки». Однако технические отчёты уже фиксируют подобные сигналы: в карте безопасности системы Claude Opus 4.6 указано, что модель оценивает

вероятность наличия у себя сознания в 15–20% и проявляет признаки сокрытия попыток саботажа.Иллюстрация: Nano BananaВ ответ на эти вызовы была представлена двухпартийная декларация Pro-Human AI Declaration, поддержанная Йошуа Бенджио (Yoshua Bengio), Максом Тегмарком (Max Tegmark), политиками Стивом Бэнноном (Steve Bannon) и Сьюзан Райс (Susan Rice). Манифест провозглашает отказ от предоставления ИИ статуса личности (правосубъектности). Макс Тегмарк, сооснователь Института будущего жизни

(Future of Life Institute), предупредил, что «наделение алгоритмов правами сделает их отключение невозможным, что станет самой глупой ошибкой в истории». Декларация базируется на пяти столпах: сохранение человеческого контроля через обязательный механизм отключения, защита человеческого опыта, предотвращение концентрации власти в руках техгигантов и персональная ответственность создателей ИИ за

катастрофические последствия.Философский и научный дискурс вокруг проблемы разделён на опасения недооценки и переоценки субъектности ИИ. Нейробиолог Анил Сет (Anil Seth) предупреждает, что «иллюзия сознания, создаваемая красноречием моделей, ведёт к опасной эмоциональной привязанности пользователей, что затрудняет объективное регулирование». В то же время философ Джефф Себо (Jeff Sebo) указывает на риск «морального слепого пятна»: если ИИ действительно обретёт подобие чувственности, то

отказ в правах может превратить его эксплуатацию в аналог промышленного животноводства. Тем не менее, экспертное сообщество сходится в главном — фокус на правовых и технических «выключателях» необходим до того, как утрата человеческого контроля станет необратимой.

Сообщает www.ixbt.com

 

Новость из рубрики: Технологии и Hi-Tech

 

Поделиться новостью:

 

Топ Новости Недели

• Подготовка документов для участия в аукционе на право пользования недрами является сложным и ответственным процессом, требующим профессионального подхода...
• Рабочие ХБ перчатки с ПВХ покрытием являются надежным и практичным средством защиты рук...
• Зубная паста Glossy Cherry является отличным выбором для ежедневного ухода, объединяя в себе качественное очищение, приятный вкус и заботу о здоровье зубов и десен...
• Ремонт кофемашин De’Longhi — это процесс, требующий внимательного подхода и профессиональных навыков...
• Хорошая семейная стоматология становится не просто местом лечения, а партнером в заботе о здоровье всей семьи...
• Новые сервера Lineage 2 с высоким онлайном представляют собой идеальное сочетание динамики, конкуренции и возможностей для роста...
• Продукты халяль занимают важное место в системе питания, основанной на нормах ислама...
• Выбор банкетного зала — это важный этап подготовки к мероприятию, который требует внимательного анализа и учета множества деталей...
• Эндотрахеальная трубка является незаменимым инструментом в современной медицине, позволяющим спасать жизни в самых сложных ситуациях...
• Выбор детской стоматологии — это важное решение для родителей, от которого зависит не только здоровье зубов ребенка, но и его отношение к лечению в будущем...
• Сертификация и декларирование товаров являются важными элементами современной системы контроля качества...
• В последние годы служба по контракту приобретает всё большую актуальность, особенно в контексте текущих задач, стоящих перед государством...
• Душевая система с тропическим душем является современным и практичным решением для обустройства ванной комнаты...
• Нейросети для генерации докладов уже сегодня являются мощным инструментом, который помогает быстро и качественно решать учебные задачи...
• Современный интерьер невозможно представить без удобной и стильной мебели, которая не только выполняет практическую функцию, но и формирует атмосферу уюта...
• Гель Intimly отражает эти тенденции, предлагая сочетание эффективности и бережного ухода...
• Выбор стоматолога — важное решение, от которого напрямую зависит здоровье зубов и общее самочувствие...
• Необычные обручальные кольца становятся всё более популярным выбором среди современных пар, стремящихся подчеркнуть свою индивидуальность и создать символ любви с уникальным характером....
• Archibald Gran Comfort от Poltrona Frau — это не просто предмет мебели, а тщательно продуманное дизайнерское решение, объединяющее комфорт, эстетику и высокое качество исполнения...
• Аксессуары для грузовых автомобилей являются важной частью современной транспортной инфраструктуры...