Пока шел на работу подумал, а ведь Стругацкие в романе "Понедельльник начинается в субботу" не дали расшифровки слова умклайдет... Это ведь наверняка аббревиатура, может быть такая расшифровка подойдет:

УМКЛАЙДЕТ — Универсальный Магический Конденсатор Латентных Астральных Импульсов Динамически Энергетически Трансформируемый.

Описание: Это устройство предназначено для инверсной деструкции параллельных вероятностей, материализации гипотетических сущностей и гармонизации левитирующих флуктуаций в квантовой феерической среде. В зависимости от режима, умклайдет может работать как катализатор спонтанной сингуляции, бытовой телепортатор, или как нейтрализатор энтропийного фона в шкафу для верхней одежды.

Примечание в технической документации:
Не рекомендуется активировать умклайдет в присутствии котов, клопов и кларнетистов.

В своей книге "Думай медленно... решай быстро" Даниэль Канеман разделяет сознание на два режима работы: режим размышления, когда мы действуем осмысленно, учимся, анализируем новые данные, и режим автопилота, когда мы используем те данные, которые уже накопили. Осмысленный режим требует много усилий, в нём мы можем находиться очень недолго и быстро устаём. В режиме автопилота мы находимся всё остальное время — это нам даётся легко, но в этом режиме мы можем совершать ошибки, если вовремя не поймём, что ситуация требует осмысленного принятия решений

Большие языковые модели имеют похожее свойство: они тоже имеют два режима — режим обучения и режим автоматического ответа на запросы. В режиме обучения мы обучаем модель на наборе данных или дообучаем её на кастомном датасете. Самостоятельно обучаться модели пока не умеют и требует много вычислительных ресурсов. В режиме вопрос-ответ нейронная сеть больше не изменяет свои коэффициенты — она использует накопленный опыт, чтобы выдавать ответ, который от неё ожидают, прямо как человек в режиме автопилота.

Что если в будущем нейронные сети научатся самостоятельно входить в режим обучения и обучать сами себя? Тогда мы получим полноценные интеллекты, способные приспосабливаться к новым условиям и развиваться. Для этого большую языковую модель нужно снабдить "органами чувств", способными обрабатывать окружающую действительность, и разрешить ей расширять и изменять собственные коэффициенты весов. Именно об этом размышлял Илья Суцкевер в своём докладе. И именно это мы сейчас наблюдаем, когда говорим уже не о LLM-моделях, а об ИИ-агентах. Похоже, именно это сейчас является основной движущей силой и основным направлением развития искусственного интеллекта.

Существует ли Бог? Это вопрос особого рода, поскольку в нём неопределён сам объект. У нас нет точного определения, что такое Бог. Поэтому, задавая этот вопрос, мы надеемся получить ответ на то, что представляет собой Бог. Однако можно сформулировать более общий и упрощённый вопрос: является ли наша система знаний самодостаточной, или для её описания необходимо что-то, находящееся за пределами нашего понимания?

На этот вопрос уже существует ответ. В 1931 году Курт Гёдель сформулировал первую и вторую теоремы о неполноте. Первая теорема Гёделя о неполноте гласит, что в непротиворечивой формальной системе существуют истинные утверждения, которые невозможно доказать внутри этой системы. Вторая теорема о неполноте утверждает, что для описания любой формальной системы недостаточно её собственных терминов.

Таким образом, теоремы Гёделя уже отвечают на вопрос о существовании Бога: да, Бог существует. Без Бога наша система знаний неполна.

Но теперь возникает уточнение: где он существует? Согласно Гёделю, Бог существует не в нашей реальности — или, точнее, не только в ней.

Давно замечаю интересную закономерность: мои коллеги, которые курят, успевают сделать на работе больше, чем я, некурящий. Как так? Ведь как только я выйду на улицу, они всё время стоят на крыльце и курят, когда же они работают? Я весь такой белый и пушистый, некурящий, а успеваю меньше, чем они, хотя они постоянно делают перерывы.

Иногда на меня накатывают приступы тайм-менеджмента, и я начинаю применять какую-нибудь методику для повышения производительности. В этот раз решил попробовать работать по методу «Помодоро». Метод «Помодоро» придумал итальянец Франческо Чирилло. Он заметил, что если работать, используя небольшие временные интервалы по двадцать пять минут, то успеваешь сделать больше, а отвлекаешься от работы гораздо меньше, чем если никак не ограничивать себя. Для отсчёта времени он использовал кухонный таймер в виде пластмассового помидора — отсюда и название метода. Видимо, наш мозг устроен так, что, если у него нет никаких внешних ограничений, он начинает искусственно отвлекать себя, чтобы мы не загоняли себя слишком напряжённой работой. Если время ограничено, то отвлекаться уже нет смысла — наоборот, мы стараемся сделать как можно больше за отведённое время. Но это «Помодоро здорового человека».

После того как я начал работать по «Помодоро», пришлось делать перерывы. На что их тратить? Например, можно пройтись по офису, выйти во двор, подышать свежим воздухом. Во дворе уже стоят курящие коллеги и курят. Вот оно! Похоже, курящий человек, хочет он того или нет, вынужден делать регулярные перерывы на перекур, и получается «Помодоро курильщика».

Получается, неважно, как делать перерывы — при помощи таймера или при помощи никотиновой зависимости, — и то и другое благотворно сказывается на продуктивности.

"Я долго раздумывал, где промежуточное звено между Homo sapiens и обезьяной, пока, наконец, не понял: мы и есть это переходное звено" — Конрад Лоренц.

На сайте "Кот Шредингера" наткнулся на интересную мысль, которая в последнее время часто меня посещает.

"Человеческий интеллект изначально искусственный, не природный — его формирует культура в процессе обучения языку и другим инструментам мышления. Мы вообще не природные, а искусственные существа, созданные культурой и воспитанием. Человеком не рождаются, а становятся. Ребёнок-маугли, вскормленный шимпанзе, думает и ведёт себя как обезьяна. А шимпанзе, выращенные людьми и обученные языку глухонемых, упорно называют себя людьми и отказываются общаться с безъязыкими собратьями".

Отсюда.

Такого же мнения придерживается и публицист Александр Невзоров. В своей книге "Происхождение интеллекта" он приходит к такому же выводу: человеческий интеллект — это всего лишь гипертрофированное проявление моделирования реальности при помощи второй сигнальной системы — речи.

Большие языковые модели — это, по сути, дистилляция знания из нашей речи, записанного в виде математических параметров вероятностей. Это и есть наше знание, записанное в виде нулей и единиц.

Людям страшно общаться не с искусственным интеллектом, им страшно общаться друг с другом, потому что в искусственном интеллекте мы узнаем себя, свои страхи и комплексы.

Заметил интересную тенденцию, чем более страна экономически развита, тем там более низкий возрастной ценз на откровенные сцены в теле-сериалах и медиа-продукции. Чем страна менее развита тем больше у правительства поползновений что-то запретить, оградить, защитить чувства верующих, не показывать детям мультики и не продавать игрушки которые не нравятся чиновникам в правительстве. Если по какой-либо причине страна из развитой экономики скатывается до уровня условного Зимбаве, то в ней сразу начинают вырезать из мультиков, снятых в тучные времена сцены где волк курит и пьет пиво, а из магазинов исчезают Барби раскрашенные под вампиров.

В странах с благополучной экономикой, напротив, детям можно пракатически все без особых ограничений. Так в Германии Netflix маркирует сериалы примерно вот так: "секс, насилие, наркотики, алкоголь, 12+"

Про Японию отдельный разговор. Очень понравился третий сезон аниме "dr. Stone". Это научно-популярный сериал, где главным героям, после глобальной катастрофы, нужно возродить цивилизацию. В ней персонажи делают порох и динамит, синтезируют наркотики и лекарства, создают оружие. Разумеется, все инструкции прилагаются. Каждая серия проходит под девизом: "Жадность - это здорово!"

В конце каждой серии есть такой дисклеймер: "Это вымышленная история, но все растения, животные и способы производства основаны на реальных. Собирать и создавать что-то в одиночку очень опасно, а порой незаконно. Просим повторять исключительно под присмотром компетентных лиц."

(перевод - Анилибрия)

Что характерно, просят именно повторять под присмотром, а не запрещают, не заменяют как в сериале "во все тяжкие" соляную кислоту плавиковой, а честно показывают все как есть. Кому надо, все равно найдет правильный рецепт.

Наконец и я установил GPT4 локально. Теперь я понимаю причину того хайпа, который охватил сегодня мир.

Кажется, мы случайно переизобрели человека.

Смотрите сами, объём памяти человеческого мозга по оценке различных авторов колеблется от 10^6 до 10^16 бит. Это, в переводе на программисткий язык составляет от 122 килобайт до 1136 терабайт. Предположим, что истина лежит где-то посередине и составляет 10^11 бит, то есть 11 гигабайт.

Размер модели, которую я скачал из интернета для того чтобы запустить чат, показанный на скриншоте, весил около 4 гигабайт. И это только одна из многих моделей доступных в приложении. Некоторые модели имеют гораздо больший размер. А ведь это такой же порядок как и грубая усредненная оценка объема памяти человеческого мозга!

Мы создали хранилище человеческого опыта для передачи которого от человека к человеку не нужен посредник в виде другого человека! Мы научились сохранять опыт не в виде книг или устного пересказа а в совершенно новом виде — в виде модели знаний, которую можно запустить в компьютере и мгновенно получить ответ на поставленный вопрос и это круто!

Мы получили мозг в банке, при этом этот мозг лишен недостатков органического мозга. Он не устает, не болеет и не стареет. Он всегда на связи, всегда в хорошем настроении и всегда готов помочь.

Конечно, пока не все так радужно, возникает целый ряд вопросов, которые только предстоит решить. Например, как верифицировать полученные ответы? Как эффективно использовать подобные модели, я уж не говорю про всякие вопросы как быть с борцами за этику, авторские права и прочее разное...

Ящик Пандоры открыт и это, похоже, с нами теперь надолго...

Про ChatGPT сейчас не пишет только ленивый. Я себя ленивым не считаю.

Один мой знакомый меня недавно спросил:

"Привет! Как думаешь, chatgpt, спасение или петля, как минимум для начинающих людей изучающих программирование или же юниоров. Говорят буквально 2-3 года и верстальщики не нужны будут"

А ведь хороший вопрос! Похоже мы переживаем очередное переосмысление назначения людей в этом мире...

Некоторые профессии уйдут, как ушли кучеры, фонарщики, трубочисты и золотари. Не похоже, что мир сильно скучает по этим профессиям.

Мне кажется, ChatGPT - это ещё один полезный инструмент для людей, который мы будем использовать чтобы решать проблемы быстрее и качественнее. Верстальщики и сейчас не нужны судя по зарплатам которые им предлагает рынок. Нужны люди которые будут уметь решать проблемы и думать. Умные роботы - это всего лишь ещё один инструмент который будет нам в этом помогать.

У Рустама Агамалиева в его Telegram паблике проскакивала интересная мысль:

Рустам недавно записал отличный стрим вместе с Максимом Дорофеевым, который позиционирует себя как специалист по прокрастинации. В связи с этим у меня возник такой вопрос:

Ответ сообщества меня несколько удивил, я узнал о себе много нового: что я не умею признавать своих ошибок, что я ничего не понимаю в восточной культуре, что христиане еще большие засранцы и вообще не нужно искать мысла там где его нет...

Но больше всего понравился вот такой комментарий:

Вопрос к телезрителям, что делать если у вас лопнул информационный пузырь и начинают растоворяться стены персонального туннеля реальности? К какому специалисту стоит обратиться с подобной проблемой и насколько это срочно?

Нам часто приходится делать то, что мы должны делать — работать, учиться, делать домашние дела и тому подобное. Когда мы что-то делаем, и у нас это получается — мы получаем положительные эмоции. Нам нравится получать положительные эмоции. Мы продолжаем делать то что нам нравится. Чем больше мы практикуемся в чем-то, тем лучше у нас это получается. Мы получаем еще больше положительных эмоций. Получается замкнутый круг. Все то что вызывает положительные эмоции мы запоминаем лучше, а значит мы быстрее учимся и качественнее запоминаем новую информацию.  По-научному это называется дофаминовая аффирмация.

Существует также и кортизоловая аффирмация. Допустим, мы сделали что-то, что у нас получилось не очень хорошо. Нам это не понравилось.  Мы испытываем беспокойство и волнение. Чтобы не испытывать беспокойства и волнения мы начинаем избегать делать то, что у нас не получается. Но делать это нам все равно приходится. Мы продолжаем учить уроки, работать работу, убираться в доме, но стараемся делать это реже, с неохотой и всячески саботируем процесс если возможно. У нас снижается успеваемость, появляются проблемы на работе, а дома образуются горы мусора. Все это еще больше вызывает в нас чувство недовольства. Мы еще больше ненавидим нашу жизнь, школу, работу, семью и себя.

Дофамин — гормон и нейромедиатор играющий в головном мозге важную роль в запоминании информации. Нашим предкам для выживания было важно запомнить безопасные и богатые едой места. Человек в дофаминовой петле будет лучше запоминать каждый свой маленький успех и ему будет казаться, что его память становится лучше.

Кортизол — гормон стресса, он заставляет нас чувствовать тревогу. Кортизол помогает мозгу забывать информацию. Негативный опыт лучше забыть, чтобы он не мешал нам радоваться жизни. Человек попавший в кортизоловую петлю будет жаловаться на плохую память и все забывать.

Вывод. Лучше радоваться своим маленьким успехам каждый день, вместо того чтобы корить себя за то, что ты что-то сделал хуже чем ожидал.