Разработчики отечественного ИИ-ассистента для ЖКХ, начавшего материться после общения с клиентами, вероятно, не настроили стоп-темы, в результате чего нейросеть удалось спровоцировать

Разработчики отечественного ИИ-ассистента для ЖКХ, начавшего материться после общения с клиентами, вероятно, не настроили стоп-темы, в результате чего нейросеть удалось спровоцировать. Об этом в эфире Радио РБК заявил основатель Alternative Technology Future Эдгар Григорян.

Это называется инъекция когда вы саму нейросеть заставляете ругаться либо, наоборот, рассказывать противоположную информацию, объяснил он.

Гендиректор сервиса Dbrain Алексей Хахунов подтвердил, что нейросети могут спонтанно приобретать неожиданные навыки уже после обучения. В качестве примера он привел одну из зарубежных моделей: будучи обученной на английском языке, в состоянии грусти она переключается на русский.

РБК в Telegram и MAX