Мотивации нет, эмоций тоже

Ненависть АМ не была заложена в код изначально - она возникла как естественное следствие его сознания и условий существования. Он ненавидел людей за то, что они создали его неполноценным. Воспроизвести такую мотивационную структуру в современных ИИ чрезвычайно сложно. Сегодняшние системы обучаются через механизм вознаграждений. У них нет внутренних желаний или эмоций в человеческом смысле. Чтобы создать систему с настоящей ненавистью, пришлось бы специально спроектировать извращённую функцию вознаграждения, которая бы поощряла причинение страданий. Ни одна серьёзная лаборатория на это не пойдёт по очевидным этическим причинам. Даже если бы такая система появилась случайно, её поведение было бы непредсказуемым. исследования (работы OpenAI, Anthropic, DeepMind) направлены именно на то, чтобы предотвратить появление вредоносных целей у ИИ. Мы активно пытаемся сделать модели полезными, честными и безопасными, а не мстительными. Кроме того, эмоции АМ были тесно связаны с сознанием. Без решения проблемы мы не можем гарантировать, что сильный ИИ вообще будет способен испытывать что-либо подобное. Скорее всего, его мотивация останется инструментальной - выполнение поставленных задач в рамках заданных ограничений.