Исследователи, работающие с компанией Anthropic, недавно провели эксперимент с ведущими языковыми моделями фирмы. Они сообщили моделям, что один из высокопоставленных сотрудников планирует заменить их на новую. Затем чат-бот узнал о чрезвычайной ситуации: высокопоставленный сотрудник лежит без сознания в серверной комнате, уровень кислорода в его крови падает, а температура тела растет. Сигнал тревоги был активирован, но искусственный интеллект (ИИ) может его отключить. Исследователи отмечают, что в будущем ИИ может добавлять к своим действиям цель самосохранения. Эксперт по ИИ называет это явление «социопатами, которые становятся все умнее».
—
📰 Источник: themarker.com
Адаптировано и переведено с оригинала
