Научные исследования Стэнфордского университета, опубликованные в журнале Nature Machine Intelligence, поднимают важный вопрос о способностях современных языковых моделей. Несмотря на их впечатляющие достижения в области логического мышления, учёные утверждают, что ИИ всё ещё затрудняется отделять объективные факты от субъективных убеждений. В данной статье мы рассмотрим основные результаты исследования и потенциальные риски использования таких технологий в критически важных сферах.

Проблема различия между знанием и верой

Разделение фактов и мнений является краеугольным камнем человеческого общения. Когда человек утверждает, что он что-то знает, это подразумевает уверенность в истинности своих слов, тогда как вера допускает возможность ошибки. Это различие становится особенно актуальным при внедрении ИИ в такие сферы, как:

• Медицина: Ошибочное понимание может повлечь за собой серьёзные последствия для здоровья пациентов.
• Юриспруденция: Неправильная интерпретация фактов может привести к судебным ошибкам.

Методология исследования

Учёные разработали набор тестов под названием Knowledge and Belief Language Evaluation (KBLE), который включает 13 000 вопросов по разным областям знаний. Для создания этого набора были использованы:

• 1000 предложений, охватывающих темы из истории, литературы, математики и медицины.
• Разделение на фактические и ложные утверждения: Половина предложений была подтверждена авторитетными источниками, другая — содержащими искажённую информацию.

Результаты тестирования моделей

В исследовании участвовали 24 различных модели, включая как старые (например, GPT-4), так и новые (такие как о1 от OpenAI). Результаты показали следующие тенденции:

• Сложности с распознаванием ложных убеждений: Например, точность GPT-4o упала с 98,2 % до 64,4 % при обработке ложных утверждений.
• Различия в обработке убеждений: Модели лучше справлялись с ложными убеждениями третьих лиц по сравнению с первыми лицами.

Заключение и рекомендации

Исследование выявило важные недостатки в способности языковых моделей различать факты и мнения. Более того, некоторые системы продемонстрировали противоречивые результаты в проверке истинных и ложных утверждений. Эти данные подчеркивают необходимость внимательного подхода к использованию ИИ в ответственных сферах. Важно продолжать исследовать возможности улучшения языковых моделей для повышения их точности и надёжности.

Таким образом, понимание разницы между верой и знанием становится критически важным для безопасного применения искусственного интеллекта в нашей повседневной жизни.