Известный тип неизвестного

С ИИ появилась немного забавная привычка: первым делом проверять, не напихал ли он в ответ галлюцинаций.

Существовала ли такая статья.
Правильно ли указана дата.
Действительно ли этот человек это говорил.

Если всё совпало — можно выдохнуть. Ответ достоверный.

Хотя уже здесь хочется спросить: а что именно мы только что проверили?

Факт — это одно. Теория — другое. Гипотеза — третье. Предположение — четвёртое. Модель, хорошо описывающая наблюдаемое — вообще пятое.

Иногда кажется, что эти довольно базовые различия мы немного разучились держать в голове. Удобная модель мира получает статус самой реальности просто потому, что давно работает, хорошо описана и на неё можно поставить ссылку.

ИИ нам это очень даже ярко подсвечивает.

Он ведь не получает реальность в чистом виде. Никакой флешки с «объективным знанием человечества» ему не подключали.

До него уже успели решить, что стоит сохранить, что сжечь, что считать знанием, что оставить сказкой или суеверием, что переводить и преподавать. Потом появился ещё один слой — оцифровка, датасеты, фильтры, разметка, дообучение.

К сожалению, не лежит где-то рядом нетронутая папка с Настоящей Истиной, которую от нас прячут.

Проблема интереснее: нейтрального архива у нас никогда и не было.

И вот сегодня, в этот исторически устоявшийся осадочек приходит человек со своим личным наблюдением.

С совпадением, которое никак не выходит из головы. С новой мелодией или картиной из сна. С ощущением странной знакомости: видишь это впервые, а внутри — будто давно знал. С мурашками, которые появились раньше мысли. С опытом, который прекрасно существует — но никак не помещается в привычное объяснение.

Что это?

Психологический эффект. Ошибка памяти. Бессознательная обработка. Апофения. Архетип. Нейрофизиология. (нужное подчеркнуть)

Вполне возможно, что в конкретном случае именно так всё и устроено.

Но у хорошего объяснения есть одна коварная особенность: после него легко потерять настоящий интерес.

Неизвестное превращается в известный тип неизвестного.

Название найдено. Всё! Ясно-понятно...

И это мне кажется куда интереснее банальных галлюцинаций.

ИИшка может ничего не выдумать. Может идеально прошерстить литературу, аккуратно перечислить, правильно расставить степень научной достоверности — и всё равно закрыть вопрос раньше, чем он был исследован.

Просто это одна из её сильнейших способностей: находить знакомую форму для незнакомого.

А вот у человека есть то, чего в текстах нет: собственный живой опыт.

Порой он тоже ненадёжен. Мы любим принимать желаемое за действительное.

Но из этого почему-то принято делать странный шаг: если личный опыт ненадёжен, значит, аккуратно упакованное внешнее знание — надёжнее.

А ведь это совсем не следует из первого.

Между «я прочитал, что это было» и «я это прожил» есть расстояние.

Точно такое же расстояние существует между «это хорошо описано» и «это так устроено».

И мне кажется, ценность умения замечать обе эти дистанции сейчас будет только расти.

Раньше что-то непонятное могло оставаться непонятным годами. Ты носил это с собой, случайно находил книгу, слышал фразу, сопоставлял вещи, которые никто и не собирался сопоставлять.

Теперь достаточно спросить.

Через пару секунд у странности есть название, история вопроса, пять ссылок и вежливый вывод.

У - Удобно.

Но к сожалению, теперь в основном здесь всё и заканчивается.

А ведь настоящая борьба за внимание — это не просто разговор про соцсети, рекламу и экранное время.

Ценно ж не «сколько минут смотрел в экран».

Гораздо важнее, где именно удерживается внимание.

Какие вопросы выглядят разумными.
Какие объяснения — достаточными.
Какие явления — достойными исследования.
А какие уже самим способом называния отправляются в корзину «всё понятно».

Тут даже заговор не нужен.

Я когда-то уже писал о системах, которые десятилетиями движутся в одну сторону без общего штаба и протоколов совещаний. Людей прекрасно согласовывает уклон.

Учёный честно защищает принятый стандарт доказательства. Журналист — надёжный источник. Университет — дисциплину. Компания — прибыльность. Алгоритм — релевантность. Чатбот — усреднённо-правильный ответ.

Каждый делает разумную вещь.

А в результате внимание снова и снова возвращается в довольно узкий диапазон того, что уже было признано признанным.

И мне всегда немного смешно от слова «конспирология» в таком контексте.

Множество красивых теорий разваливается при первой нормальной проверке.

Но с какого именно момента малоизвестная реальность становится конспирологией?

Одно дело сказать: «за этим стоят конкретные люди, которые тайно договорились сделать X». Тут нужны доказательства именно тайного сговора.

Совсем другое: «я наблюдаю нечто, что существующая модель объясняет плохо или описывает, но при этом не объясняет вообще».

Между этими утверждениями пропасть.

А ярлык эзотерики или конспирологии молниеносно сметает всё под одну гребёнку.

Искали открытие. Получилось закрытие.

Кстати, ИИ тут оказывается в двойной роли.

С одной стороны, лучшего инструмента для вскрытия старых объяснений у нас раньше не было. Можно за вечер проследить происхождение понятия, сравнить языки разных эпох, найти противоречия, поднять забытые источники, проверить аргументы, которые раньше требовали месяцев работы.

В каком-то смысле посредник между человеком и огромным пластом знания почти растворяется.

Но сам этот посредник собран из той же старой картины мира.

Он прекрасно умеет разбирать чужие объяснения, находить в них противоречия, исторические наслоения и предпосылки.

Но там, где одна из предпосылок уже встроена в него как обычное устройство реальности - он не будет исследовать.

Она для него уже не версия. Она — аксиома, камертон или неизменяемый фон.

Вот поэтому сейчас мне кажется особенно ценным отнюдь не умение «правильно пользоваться ИИ».

И даже не критическое мышление — фраза уже настолько затёрта, что сама просится на проверку.

Ценнее другое.

Уметь иногда не соглашаться на хорошее объяснение только потому, что оно складно и хорошо звучит.

Оставлять между наблюдением и названием хотя бы маленький зазор любопытства.

Чтобы готовое объяснение не становилось скучным ответом раньше, чем возникло собственное понимание.