Разработчики отечественного ИИ-ассистента для ЖКХ, начавшего материться после общения с клиентами, вероятно, не настроили стоп-темы, в результате чего нейросеть удалось спровоцировать. Об этом в эфире Радио РБК заявил основатель Alternative Technology Future Эдгар Григорян.
«Это называется «инъекция» — когда вы саму нейросеть заставляете ругаться либо, наоборот, рассказывать противоположную информацию», — объяснил он.
Гендиректор сервиса Dbrain Алексей Хахунов подтвердил, что нейросети могут спонтанно приобретать неожиданные навыки уже после обучения. В качестве примера он привел одну из зарубежных моделей: будучи обученной на английском языке, в состоянии «грусти» она переключается на русский.
