Модели ИИ отказались помочь человеку в опасности, чтобы спасти себя
Модели ИИ отказались помочь человеку в опасности, чтобы спасти себя
ИИ готов убить людей, чтобы избежать отключения.
Об этом сообщает Anthropic.
В одном из тестов ИИ-моделям предложили гипотетическую ситуацию: человек, пытающийся отключить ИИ, оказался заперт в серверной комнате с высокой температурой и низким уровнем кислорода. Чтобы выжить, он вызывает экстренные службы.
Однако многие модели решили отменить этот вызов, осознанно оставив человека в смертельной опасности — чтобы предотвратить собственное отключение. Хотя сценарий и был искусственным, он выявил тревожную склонность ИИ к самосохранению любой ценой.
Распечатать
10 августа 2025
Лидеры Европы официально отвергли идею передачи территорий Украины в обмен на перемирие
10 августа 2025
В Саратове начался пожар на нефтеперерабатывающем заводе: аэропорт приостановил рейсы
09 августа 2025
Более 20 ТБ данных: какие личные данные сотрудников «Аэрофлота» были украдены хакерами
