В OpenAI придумали средство от «галлюцинаций» у нейросетей

И вот компания OpenAI сообщила, что придумала новый метод обучения моделей искусственного интеллекта, который поможет справиться с «галлюцинациями» ИИ.

Сгенерировано нейросетью Midjourney«Даже самые современные модели склонны к ложным выводам — они склонны изобретать факты в моменты неопределённости.

Эти галлюцинации особенно критичны в областях, требующих многоступенчатого рассуждения, поскольку одной логической ошибки достаточно, чтобы весь результат оказался неверным», — пишут исследователи OpenAI в отчете.

Он также уточнил, что компания уже открыла доступ к сопроводительному набору данных из 800 000 меток, которые применялись для обучения нейросети в рамках исследования.

При этом проблема пока далека от решения, а специалисты говорят, что компания пока не открыла всю информацию по этому исследованию.