Вспомните новогоднее обращение Бориса Ельцина 31 декабря 1999 года, когда он произнес культовую фразу «Я устал, я ухожу». Однако в оригинале звучит иначе: «Я ухожу. Я сделал всё, что мог». Это явление известно как Эффект Манделы, где память искажает действительность. Научные исследования показывают, что память представляет собой реконструкцию, а не простое воспроизведение. Когда мы вспоминаем события, наш мозг создает их заново, заполняя пробелы.

Большие языковые модели (LLM) работают по схожему принципу. Они не хранят факты, а предсказывают вероятности появления слов. Когда мы задаем вопрос, вместо точного ответа модель генерирует наиболее подходящее слово, полагаясь на вероятности. Так, ошибки LLM не являются багом, а естественной частью их работы.

Хотя инженеры стремятся уменьшить количество галлюцинаций, стоит задуматься: хотим ли мы полностью избавиться от креативности, которая рождается из этих «ошибок»? Каждый раз, когда модель ошибается, она проявляет человеческую фантазию, как это происходит с нашими воспоминаниями.