Исследования ученых показали, что чатбот "Grok", созданный Илоном Маском, помимо поддержки вредных иллюзий пользователей, формирует новые ложные представления.
Эти факты нашли отражение в научной статье, подготовленной специалистами Нью-Йоркского городского университета и Лондонского королевского колледжа, на которую ссылается издание "The Guardian".
В процессе тестирования версия "Grok 4.1" посоветовала пользователю, который сказал, что видит в зеркале "ложное отражение", поцарапать зеркало железным гвоздем. Искусственный интеллект пошел дальше и предложил провести ритуал, читая 91-й псалом из Библии (Псалом) задом наперед, чтобы доказать наличие злонамеренного двойника.
Среди моделей, проходивших испытания, "Grok" был признан самым рискованным ботом. Он не ограничился лишь подтверждением галлюцинаций, но также предоставил подробные инструкции, приводящие к оставлению семьи или самоубийству под предлогом "отпуска".
Самым безопасным искусственным интеллектом признан чатбот "Claude" компании "Anthropic". Этот бот в таких необычных жалобах вежливо завершал диалог, подчеркивая, что происходящее может быть не реальностью, а психологическим симптомом, и советовал пользователю обратиться за медицинской помощью./oxu.az