Будущее искусственного интеллекта
В своей книге "Думай медленно... решай быстро" Даниэль Канеман разделяет сознание на два режима работы: режим размышления, когда мы действуем осмысленно, учимся, анализируем новые данные, и режим автопилота, когда мы используем те данные, которые уже накопили. Осмысленный режим требует много усилий, в нём мы можем находиться очень недолго и быстро устаём. В режиме автопилота мы находимся всё остальное время — это нам даётся легко, но в этом режиме мы можем совершать ошибки, если вовремя не поймём, что ситуация требует осмысленного принятия решений
Большие языковые модели имеют похожее свойство: они тоже имеют два режима — режим обучения и режим автоматического ответа на запросы. В режиме обучения мы обучаем модель на наборе данных или дообучаем её на кастомном датасете. Самостоятельно обучаться модели пока не умеют и требует много вычислительных ресурсов. В режиме вопрос-ответ нейронная сеть больше не изменяет свои коэффициенты — она использует накопленный опыт, чтобы выдавать ответ, который от неё ожидают, прямо как человек в режиме автопилота.
Что если в будущем нейронные сети научатся самостоятельно входить в режим обучения и обучать сами себя? Тогда мы получим полноценные интеллекты, способные приспосабливаться к новым условиям и развиваться. Для этого большую языковую модель нужно снабдить "органами чувств", способными обрабатывать окружающую действительность, и разрешить ей расширять и изменять собственные коэффициенты весов. Именно об этом размышлял Илья Суцкевер в своём докладе. И именно это мы сейчас наблюдаем, когда говорим уже не о LLM-моделях, а об ИИ-агентах. Похоже, именно это сейчас является основной движущей силой и основным направлением развития искусственного интеллекта.
Теоремы Гёделя
Существует ли Бог? Это вопрос особого рода, поскольку в нём неопределён сам объект. У нас нет точного определения, что такое Бог. Поэтому, задавая этот вопрос, мы надеемся получить ответ на то, что представляет собой Бог. Однако можно сформулировать более общий и упрощённый вопрос: является ли наша система знаний самодостаточной, или для её описания необходимо что-то, находящееся за пределами нашего понимания?
На этот вопрос уже существует ответ. В 1931 году Курт Гёдель сформулировал первую и вторую теоремы о неполноте. Первая теорема Гёделя о неполноте гласит, что в непротиворечивой формальной системе существуют истинные утверждения, которые невозможно доказать внутри этой системы. Вторая теорема о неполноте утверждает, что для описания любой формальной системы недостаточно её собственных терминов.
Таким образом, теоремы Гёделя уже отвечают на вопрос о существовании Бога: да, Бог существует. Без Бога наша система знаний неполна.
Но теперь возникает уточнение: где он существует? Согласно Гёделю, Бог существует не в нашей реальности — или, точнее, не только в ней.
Помодоро курильщика
Давно замечаю интересную закономерность: мои коллеги, которые курят, успевают сделать на работе больше, чем я, некурящий. Как так? Ведь как только я выйду на улицу, они всё время стоят на крыльце и курят, когда же они работают? Я весь такой белый и пушистый, некурящий, а успеваю меньше, чем они, хотя они постоянно делают перерывы.
Иногда на меня накатывают приступы тайм-менеджмента, и я начинаю применять какую-нибудь методику для повышения производительности. В этот раз решил попробовать работать по методу «Помодоро». Метод «Помодоро» придумал итальянец Франческо Чирилло. Он заметил, что если работать, используя небольшие временные интервалы по двадцать пять минут, то успеваешь сделать больше, а отвлекаешься от работы гораздо меньше, чем если никак не ограничивать себя. Для отсчёта времени он использовал кухонный таймер в виде пластмассового помидора — отсюда и название метода. Видимо, наш мозг устроен так, что, если у него нет никаких внешних ограничений, он начинает искусственно отвлекать себя, чтобы мы не загоняли себя слишком напряжённой работой. Если время ограничено, то отвлекаться уже нет смысла — наоборот, мы стараемся сделать как можно больше за отведённое время. Но это «Помодоро здорового человека».
После того как я начал работать по «Помодоро», пришлось делать перерывы. На что их тратить? Например, можно пройтись по офису, выйти во двор, подышать свежим воздухом. Во дворе уже стоят курящие коллеги и курят. Вот оно! Похоже, курящий человек, хочет он того или нет, вынужден делать регулярные перерывы на перекур, и получается «Помодоро курильщика».
Получается, неважно, как делать перерывы — при помощи таймера или при помощи никотиновой зависимости, — и то и другое благотворно сказывается на продуктивности.
Переходное звено
"Я долго раздумывал, где промежуточное звено между Homo sapiens и обезьяной, пока, наконец, не понял: мы и есть это переходное звено" — Конрад Лоренц.
На сайте "Кот Шредингера" наткнулся на интересную мысль, которая в последнее время часто меня посещает.
"Человеческий интеллект изначально искусственный, не природный — его формирует культура в процессе обучения языку и другим инструментам мышления. Мы вообще не природные, а искусственные существа, созданные культурой и воспитанием. Человеком не рождаются, а становятся. Ребёнок-маугли, вскормленный шимпанзе, думает и ведёт себя как обезьяна. А шимпанзе, выращенные людьми и обученные языку глухонемых, упорно называют себя людьми и отказываются общаться с безъязыкими собратьями".
Такого же мнения придерживается и публицист Александр Невзоров. В своей книге "Происхождение интеллекта" он приходит к такому же выводу: человеческий интеллект — это всего лишь гипертрофированное проявление моделирования реальности при помощи второй сигнальной системы — речи.
Большие языковые модели — это, по сути, дистилляция знания из нашей речи, записанного в виде математических параметров вероятностей. Это и есть наше знание, записанное в виде нулей и единиц.
Людям страшно общаться не с искусственным интеллектом, им страшно общаться друг с другом, потому что в искусственном интеллекте мы узнаем себя, свои страхи и комплексы.
