2023-12-04

Большие Языковые Модели в CS50

Гарвардский университет добавил в свои знаменитые лекции по Computer Science CS50 лекцию, посвященную большим языковым моделям. Лекцию читает доктор Мэтт Велш.

Лекция рассчитана на широкий круг зрителей, в ней нет ни одного сложного термина. Эта лекция будет понятна даже для вашей бабушке!

На волне хайпа эта лекция очень бысто стала популярной. Многие кинулись обсуждать некоторые выводы Мэтта, вроде того, что программирование больше никогда не будет прежним и мы перестанем писать алгоритмы, так как языковые модели будут справляться с этим лучше людей.

Однако мне, почему-то, показалось интересным другое его утверждение. Примерно на временной метке 47:19 на доске спикера написано: "Nobody understands how large AI models works" - "Никто не понимает как большие языковые модели работают". И это то, что меня больше всего поразило в этой лекции.

Я то надеялся, что здесь мне наконец объяснят как работают большие языковые модели. На каком этапе вся эта мешанина тензоров и другой страшной математики превращается в осмысленную речь, а оказалось, что никто на этой планете этого не понимает!

И вот в этой новой реальности нам теперь предстоит жить: если раньше ученые не понимали как работает, например, квантовая физика, то теперь и инженеры признают, что они не понимают как работают машины, которые они создают... Печаль...

 

Оставить комментарий

 
  2023-11-25

Прикуривает от пустоты

Я, признаться, совсем не заметил
Как время ушло, унося с собой всё, что я выбрал святым
И, оставив меня в пейзаже, где всё как всегда
Но на ощупь непрочно, как дым
И со мной компаньон – неизвестный мне кто-то
Точно такой же, как ты, но не ты
Безупречно и дерзко изящен
И прикуривает от пустоты

Объясните мне, где теперь правда, где ложь
Где жало змеи, где пылающий уголь, где тюрьма
Неприступные стены, в которых я бился
Оказались дешёвой игрушкой ума
А мой компаньон терпелив, как апостол
Но даже он устал от моей суеты
И, отбросив книгу с моими грехами
Прикуривает от пустоты

Все полки, что стояли за мной
Разошлись по делам, а я всё держусь
Но не стоит вставать у меня на пути
Я могу оказаться немного острей, чем кажусь
Мой товарищ куда-то исчез
И значит, мне незачем и некуда строить мосты
Я давно не курю, и в карманах нет спичек
Придется прикуривать от пустоты
Прикуривать от пустоты

 

Оставить комментарий

 
  2023-11-24

Как сделать checkbox в markdown

Чекбоксы - мегополезная штука при редактировании текстов на языке markdown. Можно, например, составлять списки дел и помечать сделанное в обычном текстовом файле. Пустой чекбокс выглядит в markdown как [ ] а отмеченный как [x].

Поскольку я веду заметки используя markdown, то часто составляю маркированные списки с чекбоксами. К сожалению, других вариантов, кроме отмеченного и не отмеченного чекбоксов в markdown нет, а мне хотелось бы иметь больше вариантов, например чекбокс который неактивен, или как-то еще выделить таск, который не получится сделать, например отметить его крестиком а не галочкой.

Оказывается, у github есть расширение спецификации markdown и можно воспользоваться кодами типа :white_check_mark: или :negative_squared_cross_mark: чтобы получить более интересные комбинации.

Существует проект, который показывает все возможные иконки, которые можно напечатать подобным образом.

К сожалению, в Gitlab эти иконки работают не все, но большинство тоже работают.

Проверил поддерживаются ли они в IntelliJ — облом, не поддерживаются. Obsidian тоже не понимает этого расширения. Microsoft Visual Code тоже не понимает. Надеюсь, в будущем поддержка будет добавлена, уж больно полезная эта фича.

Upd: в принципе расширения разметки не нужны, все эти иконки это Unicode символы, которые можно и как есть использовать, например вот так:  ✅ ❌ ✔️. Так что поддержки можно и не ждать а уже сразу начать использовать.

 

Оставить комментарий

 
  2023-11-19

Богемская рапсодия

Удивительное исполнение Богемской рапсодии акапелла от Jared Halley, просто блеск!

 

 

Оставить комментарий

 
  2023-11-11

Но как Холмс?

Сосед в коворкинге поделился лайфхаком на тему того каким образом он позаботился о том, чтобы его велосипед никто не украл. Как известно, в Берлине кражи велосипедов — это большая проблема, тут каждые несколько минут угоняют по велосипеду, а у Дена, так зовут моего соседа, очень навороченный велик. Так вот, Ден спрятал в раму велосипеда Apple AirTag — это такой миниатюрный гаджет от Apple, который позволяет отследить вещь, если она потеряется. AirTag умеет по команде издавать звуки, посылать свое местоположение на сервера Apple. Устройство писается от батарейки CR2032 и стоит около 30 евро. Звучит как фантастика!

На вопрос Дену как такое маленькое устройство может так долго работать от такой маленькой батарейки и по каким каналом пересылаются данные, Ден только развел руками, мол — магия Apple!

На Yutube есть много видео, где люди кладут AirTag в бутылку и отправляют плавать в океан, закапывают в лесу или кладут в посылки и смотрят каким маршрутом те пересылаются. Рассказывают, что когда Илон Маск перевозил сервера Twitter в другой дата-центр, он скупил все AirTag в локальном Apple Store чтобы отслеживать при помощи них местоположение своего оборудования.

Что за фантастическая технология позволяет AirTag работать месяцами от микроскопической батарейки и при это обеспечивать геопозиционирование в пределах планеты?

Открываем спецификацию и видим три технологии: Bluetooth, NFC, и Ultra wideband (UWB). Причем в русскоязычной версии технологии UWB нет. Насколько известно в России UWB официально не действует из-за невозможности согласовать частотные диапазоны с военными.

Но все три технологии обеспечивают связь только на расстояние нескольких метров. Как же тогда люди находят потерянные ключи на расстоянии сотен километров? Все очень просто, в этом им помогают владельцы других айфонов если они оказываются поблизости. Если поблизости от AirTag находиться человек с iPhone, то iPhone автоматически посылает уведомление о встреченном AirTag на сервера Apple. Эта система называется Apple Find My.

Поскольку AirTag использует Bluetooth и NFC которые поддерживаются не только в iPhone, то теоретически возможно обнаружить такое устройство при помощи любого телефона на базе Android. Для этого у Apple даже есть специальное приложение Детектор Трекеров.

Поэтому, если злоумышленник достаточно технически подкован, то обнаружить спрятанный в велосипеде AirTag трекер для него не составит большого труда. Но это все-же лучше чем совсем ничего.

 

Оставить комментарий

 
  2023-11-11

Новая песня The Beatles

Ну как новая, Йоко Оно нашла старую магнитофонную запись одной из последних репетиций Джона Леннона и прислала ее сэру Полу МкКартни. Оставшиеся члены ливерпульской четверки при помощи современных технологий смогли записать новый синг Now and Then, который сразу возглавил британские чарты.

На видео, музыканты осторожно вставляют кассету и начинают петь. Это выглядит очень трогательно конечно. Думаю, что кассета это всего лишь красивый символ, красивая легенда, скорее всего, даже правдивая. В реальности же сейчас, для того чтобы записать песню голосом умершего человека не нужно дорогого оборудования, все можно сделать на домашнем компьютере. Кто-то может сказать, но это же все настоящее! Это все нейронная сеть! Я хочу возразить таким людям, иногда нейронная сеть в компьютере ведёт себя более по-человечески чем некоторые отдельно взятые живые люди.

 

Оставить комментарий

 
  2023-11-10

Yukopi

В сети завирусилось видео, на котором ровным счетом ничего не происходит. В кадре просто идет нарисованная девочка под веселую песенку на японском языке. Несмотря на это это видео стало очень популярным уже примерно через 2 недели после первой загрузки. Оно вошло в Зал славы Youtube, быстро набрав 1 миллион просмотров. Сейчас видео имеет больше семидесяти миллионов просмотров. Более того, появилось много пародий на него. Люди снимают свои версии этой песенки, многие из которых не менее забавные.

Особенность видео в том, что у него нет живого исполнителя, вокальная партия в нем была синтезирована при помощи компьютерной программы Vocaloid.

Vocaloid — программное обеспечение фирмы Yamaha Corporation, имитирующее голос поющего человека на основе заданной мелодии и текста. Vocaloid использует технологию полного синтеза речи по правилам с использованием предварительно запомненных отрезков естественного языка.

Каай Юки (歌愛ユキ) — японский вокалоид, разработанный и распространяемый компанией AH-Software Co. Ltd. и первоначально выпущенный в декабре 2009 года для движка VOCALOID2. Вокал Юки основан на вокале ученицы начальной школы. Поскольку провайдером голоса была несовершеннолетняя девочка, ее личность так и не была раскрыта по юридическим причинам. Единственное что известно о Юки это то, что оригинал основан на голосе 10-летней девочки, которая до сих пор остается анонимной. Каай Юки стала первым вокалоидом женского пола, образцы голоса которого не были взяты от взрослого человека.

外出た瞬間 終わったわ В тот момент, когда я вышла, все было кончено.
天気は良いのに 進めない Несмотря на хорошую погоду, я не могла двигаться
風 強すぎて お亡くなり Ветер был слишком сильным, и я умерла
定期 定期 的にオールバック Ветер взъерошил мою прическу
地下に潜りたいな って 思いました Я подумала, что хочу провалиться под землю.
風さえなくなれば あったかいのに Если бы ветер утих, было бы тепло
ずっと座りたいな って 思いました Я чувствовала, что хочу прятаться вечно.
いやいや と 外でたら Нет-нет, я вышла на улицу.
ハト ハト ハト ハト 大乱闘 Голубь Голубь Голубь Большой Переполох
外出た瞬間 終わったわ В тот момент, когда я вышла, все было кончено.
天気は良いのに 進めない Несмотря на хорошую погоду, я не могла двигаться
風 強すぎて お亡くなり Ветер был слишком сильным, и я умера
定期 定期 的にオールバック Ветер взъерошил мою прическу
髪の毛 強風オールバック Волосы сильно развиваются за спиной.

Перевод весьм приблизительный, так как сварщик я не настоящий и маску я на сторойке нашел. Если кто может перевести лучше - поправьте меня.

источник

 

Оставить комментарий

 
  2023-11-05

Умный выключатель

Я уже писал о том как я подключил умную лампочку из Икеи при помощи Zigbee2MQTT. Стало интересно, а можно ли обычный выключатель конвертировать в умный при помощи управляемого через Zigbee2MQTT реле? Ситуацию усложняет тот факт, что я не могу переделать существующую проводку, а значит, такое устройство должно питаться током проходящим через цепь пока лампочка горит. И я такое устройство нашел, это Sonoff ZBMINIL2

Устройство достаточно компактно, и, хотя и с трудом но умещается в пространство за выключателем. Выключатель при этом сохраняет свою функциональность, и дополнительно становится возможно управлять светом дистанционно через Zigbee2MQTT.

Как можно использовать такую систему? У была меня идея сделать контроль теплоты и яркости света в ванной в зависимости от времени суток. Например, утром и днем чтобы лампы светили в полную яркость а вечером и ночью чтобы лампы светили в пол-накала. Для этого нужно иметь возможность кратковременно автоматически включать свет, так как к умным лампам, например, те что продает IKEA нужно питание, иначе после включения некоторое время лампа будет светить как прежде.

Устройство при включении света негромко щелкает, если не прислушиваться меня не напрягает.  Цена гаджета на немецком Amazon - 22 евро. В целом штуковина оказалась вполне рабочей и из таких штук вполне можно собрать бюджетный умный дом.

 

Оставить комментарий

 
  2023-11-04

Даша-путешественница выросла

"I Mostly Blame Myself" (Я в основном виню себя) — это живое комедийное скетч-шоу вне Бродвея, которое вот уже почти два года идет в Нью-Йорке и Лос-Анджелесе. Это серия мрачных, странных и веселых скетчей, начиная от диснеевских пародий и исторических мюзиклов и заканчивая некоторыми слегка противоречивыми темами, которые вы всегда хотели затронуть. Каждое шоу совершенно новое, совершенно оригинальное и абсолютно абсурдное.

Вот запись одного из их выступлений:

Просто блеск!

 

Оставить комментарий

 
  2023-10-28

Sukinishinayo

Немного хорошей музыки и приятных картинок вам в награду за то, что хорошо трудились всю неделю.

Sukinishinayo — означает "делай что хочешь", этакая акунаматата по-японски. То что нужно для хороших выходных!

|走らす船は 笑えるほどに плывущая лодка она какая забавная
遅い速度で 進んでいたが она медленно плывет
沈まなけりゃ いいんじゃないか? разве она не должна утонуть?
地図もないけれど 辿り着いた у меня не было карты, но я добрался туда
君の心の港 порт твоего сердца
旅に出たいなら どうぞ どうぞ Если вы хотите отправиться в путешествие, пожалуйста, вперед.
音の波に乗って катаясь на волнах звука
気に入ったのならば Если тебе это нравится
好きにしなよ 好きにしなよ Делай, что хочешь, делай, что хочешь
うまくいくかなんて 誰にもわからない Никто не знает, получится ли это
また会えるかなんて 僕にもわからない Я даже не знаю, встретимся ли мы снова
乗っても降りても あなたを咎めない Независимо от того, войдете вы или выйдете, я не буду винить вас
好きにしなよ 好きにしなよ Делай, что хочешь, делай, что хочешь
正しい道など 海にもわからない Даже океан не знает правильного пути.
終わりの場所など 空にもわからない Даже небо не знает, чем это закончится
丸くて青い この星の旅人 Круглый и синий, путешественник на этой планете
好きにしなよ 好きにしなよ Делай, что хочешь, делай, что хочешь
構わないよ 好きにしなよ Неважно, делай что хочешь
遠くに見える 豪華な客船 Роскошный круизный лайнер виден вдалеке
こぼれる光 あやかりながら Молясь о пролитом свете
ありがたいと 漕ぎ続けた Я был благодарен и продолжал грести.
でも何か違うと 気がついた Но я заметил, что что-то изменилось.
僕の心の声が голос моего сердца
囁く方へ 進め 進め Идите к шепчущему, двигайтесь вперед
たとえ闇だとしても Даже если темно
信じられるのなら Если ты можешь в это поверить
好きにしなよ 好きにしなよ Делай, что хочешь, делай, что хочешь
If you believe in yourself then follow me to the end Если ты веришь в себя, то следуй за мной до конца
好きにしなよ suit yourself no matter where I go "Делай, что хочешь" подходит тебе, куда бы я ни пошел
If you believe in yourself then follow me to the end Если ты веришь в себя, то следуй за мной до конца
好きにしなよ suit yourself no matter where I go "Делай, что хочешь" подходит тебе, куда бы я ни пошел
好きにしなよ Делай все, что хочешь

 

Авторка и исполнительница Anly,

текст отсюда; перевод Google Translate

 

Оставить комментарий