Почему нейросети выдают выдуманные ответы

По словам эксперта в сфере искусственного интеллекта и управления знаниями Владимира Лещенко, нейросети иногда выдают неверные или вымышленные ответы на запросы пользователей. Это связано с теми данными, на которых обучались модели, и с тем, как они интерпретируют информацию.

Лещенко отметил, что если в обучающих данных есть неточности или ошибки, нейросеть может воспринимать их как правдивую информацию и приводить к неверным выводам. В этом случае ИИ будет считать, что дал точный ответ, хотя на самом деле он ошибочен.

Галлюцинации также могут возникать из-за внутренней структуры нейросети и способа обработки данных. Влияние на конечный ответ может оказывать и небольшое изменение формулировки запроса пользователя.

Сам эксперт подчеркнул, что галлюцинации появляются из-за недостаточности данных в обучающей базе и того, что модель начинает «креативить» вместо того, чтобы просто воспроизводить известные факты.

Ранее в связи с проблемами поведения нейросетей OpenAI приостановила обучение своих самых мощных моделей. Также Илон Маск ранее заявлял, что развитие ИИ и робототехники может привести к эпохе, когда дефицит товаров почти исчезнет, а деньги станут достаточными для удовлетворения базовых потребностей.