В OpenAI объяснили, что неожиданное поведение чат-бота было связано с добавленной значительно раньше функцией памяти, однако ошибка уже устранена.

В одном из описанных случаев чат-бот инициировал разговор с пользователем, чтобы спросить, как прошла его первая неделя обучения. В другом – спрашивал, как пользователь чувствует себя и сохраняются ли у него симптомы болезни.

Скриншоты странных разговоров с чат-ботом быстро привлекли внимание на Reddit и X. Некоторые ошибочно связывали инциденты с выпуском новой модели искусственного интеллекта o1 с лучшими способностями к мышлению. Впрочем, OpenAI объяснила, что неожиданное поведение чат-бота было связано с добавленной значительно раньше функцией памяти, позволяющей ChatGPT сохранять информацию об определенных аспектах жизни пользователей, упомянутых в диалоге.

«Эта проблема возникла, когда модель пыталась ответить на сообщение, которое не было отправлено должным образом и выглядело пустым. В результате она либо давала общий ответ, либо использовала память ChatGPT», — пояснил представитель компании, отметив, что ошибка уже устранена.

Новини від Корреспондент.net в Telegram та WhatsApp. Підписуйтесь на наші канали https://t.me/korrespondentnet та WhatsApp