dxdt.blog: занимательный интернет-журнал

Из Ars Technica отозвали статью (англ.) про AI-бота, из-за наличия в той статье поддельных цитат, сгенерированных другим AI/LLM-ботом.

Уровень даже технической журналистики, к сожалению, продолжает падать. Хотя – казалось бы. Но нет, при поддержке LLM – ускорить падение уровня нетрудно. Естественно, написано, что редакционная политика Ars Technica запрещает использование текстов, сгенерированных ИИ/LLM, кроме как в качестве примеров того, что может сгенерировать LLM. Это не помогло.

На сайте Gramota.ru опубликовали “слова 2025 года”, что бы это ни значило, и слово-победитель в области “Информационных технологий” – “вайбкодинг”.

Хайп. Тут показателен не столько сам выбор слова, сколько его неловкое определение, которое там приводят: “подход в программировании, при котором человек ставит задачу на естественном языке, а искусственный интеллект пишет код”.

“Кодинг”, как явление, к программированию вообще имеет отношение крайне отдалённое. Я бы сказал, что “кодинг” – противопоставляется “программированию”. Ну а уж “вайбкодинг”, это, как бы, вообще не про программирование, и тем более, не “подход в программировании”. “Вайбкодинг” – это способ задавать контекст выдачи кодогенератора, без формирования представления о самой задаче, для решения которой пишется код – откуда, собственно, “вайб‐”: это “промптинг” по наитию, а не “подход в программировании”.

(Ссылка выше – ведёт на страницу без разметки стилей, но так сделано на сайте; возможно, тоже “вайбкодинг”; как сослаться на нормальную страницу за 2025 год – непонятно.)

Очередное хайп-продолжение со стороны компаний, продвигающих ИИ/LLM в разработке программного кода. Пишут (англ.), что Anthropic нынче заявляет о написании “с нуля” на Rust компилятора C, всё силами “шестнадцати ИИ-агентов”. Компилятор – во много десятков тысяч строк кода. Вообще, как это нужно понимать, если выкинуть хайп-составляющую?

Понимать нужно так:
тысячи людей-разработчиков десятилетиями тщательно писали реализацию алгоритмов на языках высокого уровня (и не только высокого), готовили детальнейшую документацию к полученному коду, писали и отлаживали программные тесты и тестовые примеры (речь ведь про C-компилятор, не забывайте);
потом, несколько лет, потратив огромное количество гигаватт электроэнергии, результаты работы людей “упаковывали” в многоуровневый набор функционалов синонимайзера-переростка;
потом человек-инженер, при помощи подкручивания тестов вручную, приспосабливал к логической модели компилятора псевдослучайную выдачу машины перебора и генерации текста, которая машина построена на многотерабайтной базе “упакованного” в токены исходного программного кода, и которая машина извлекает из этой “упакованной” базы цепочки, похожие на кусочки записи программ, реализующих какие-то алгоритмы;
на такой “перебор с подкручиванием” потрачено, опять же, колоссальное количество процессорного времени и памяти;
в результате – получен в огромном количестве некий мутный код на Rust, реализующий (в некоторых случаях) преобразование программ на C в машинный код (дополнение от 13.02.2026: оказалось, что даже не в машинный код: это был очередной обман – там даже нет собственного встроенного ассемблера, а для демонстрации использовали ассемблер из GCC).

Да и то – с оговорками: не нужно так уж верить всем бравурным заявлениям в СМИ про “компиляцию ядра Linux” – кто там его знает, как оно реально “компилируется”, если компилируется вообще. Но при этом пишут, что “ИИ создал компилятор с нуля“. “С нуля”, “создал”. Конечно. Поэтому-то и хайп – не остановить.

А компилятор для подмножества C, – с куда меньшими оговорками, чем в случае ИИ/LLM выше, – можно уложить в 512 байтов, если что. И даже без Rust. Вот только с хайпом в СМИ на этом направлении будет сложновато.

Пишут, что на такое мероприятие, как инаугурация мэра Нью-Йорка (США), запрещено приносить Flipper Zero и Raspberry Pi. Да. Прямо так и указано в списке запрещённых предметов, наряду с большими сумками, домашними животными (уровня pet, про буйволов ничего не сказано), велосипедами, креслами, битами и другими объектами, которые, прямо скажем, чуть более часто встречаются, чем Raspberry Pi и Flipper Zero. Вместе с тем, Arduino, получается, можно проносить. Уже проще.

Самое забавное, что смартфоны и ноутбуки – не запрещены. Сравните, как говорится, возможности Flipper Zero с возможностями ноутбука, к которому подключен набор решений на ESP32 и, предположим, HackRF (все разрешены).

Кстати, попался тут неплохой пример странностей современного “Хабра”, связанных с ИИ/LLM – статья под названием “Царский путь к пониманию комплексных чисел” (не ясно, есть ли тут аллюзия на известную максиму про отсутствие “царских путей” в математике). Текст, судя по всему, – а также, судя по комментариям автора статьи, – сгенерирован при помощи нескольких LLM, но потом поправлен и скомпилирован автором. (Такое сейчас прямо поощряется.) Теми же LLM сгенерированы картинки-иллюстрации в статье.

В статье полностью сохранена характерная для LLM-генераторов подача в стиле “успешный успех”. А “успешный успех” начисто скрывает за ложным пафосом минимальную содержательную часть, если она там и есть – читать это, к сожалению, очень и очень трудно, полезный выход минимален: “Рождение ереси”, “Приглашение к бунту”, “Понимание – не равно – умение решать” и т.д., думаю, заштампованность ясна без дальнейшего перевода.

На схемах к статье утверждается, например, что принятие “догмы”, которая там названа (цитата) “Корней из отрицательных чисел не существует”, приводит к потере “Квантовой механики и теории поля”, а также “Волн и колебаний в физике”. Каким таким образом это возможно? Нет объяснения. При этом, очевидно, что над действительными числами “корней из отрицательных чисел” не существует по определению, что бы там ни рисовали LLM на картинках. (Имеются в виду квадратные корни.) Именно на этом “несуществовании” и вводятся комплексные числа в математике, а не на признании самого “несуществования” “догмой” с последующим отрицанием, то есть, совсем не так, как написано у LLM. Собственно, это неверная трактовка, эквивалентная истории с параллельными прямыми, которые “пересекаются” – то есть, создание фиктивной восторженности, путём полного искажения определений, проводимого через ложное противоречие. И, как говорится, так далее, и тому подобное.

Так что, влияние LLM – очень и очень не хорошее.

Решил ознакомиться с режимом Deep Research (“Подробное исследование”) в ChatGPT 5. Запросил провести сравнение строки Илиады в версии папируса P.Mich.Inv.6972 c вульгатой (Vulgate – я на английском запрос написал). “Вульгатой” в гомероведении называют, грубо говоря, “стандартный” текст, например, Илиады. Это общепринятый термин, понятный сразу любому специалисту в данной и в смежных областях.

Гомеровская вульгата сформровалась сильно позже исходных текстов, поэтому в старых папирусах есть расхождения – это большая тема в филологии, в лингвистике и в истории. Так что запрос более чем содержательный.

Но ChatGPT начало сравнивать с латинской Библией, которая, конечно, тоже Вульгата, но в гомеровском контексте выглядит не самым подходящим вариантом. Потратился целый “поинт”, соответствующий одной задаче Deep Research. Вот такое вот “исследование” идёт на замену филологам.

В известном журнале Nature/Scientific Reports недавно опубликовали “научную статью”, которая “использует сгенерированную ИИ диаграмму, содержашую чепуху” (“uses an AI-generated figure containing nonsense”). Это не преувеличение, это – цитата из официального текста сообщения Nature об отзыве той статьи.

Вдумайтесь: статья в научном издании, – выходящем, на минуточку, “под зонтиком” Nature, – была опубликована, несмотря на то, что в ней, в качестве иллюстрации с описанием методики, использовалась большая диаграмма, явно сгенерированная LLM. То, что это сгенерированная “диаграмма с чепухой”, видно невооружённым глазом. Разобраться можно, примерно, за пять секунд: потому что на этой диаграмме присутствуют “термины” “fexcectorn” и “frymblal”, причём, в последнем, в “frymblal”, – так ещё и буква m имеет дополнительную “ногу”. (Диаграмму, кому интересно, нетрудно найти на сайте Nature, в исходной статье.)

Такова реальность использования ИИ. Очевидно, до “сверхинтеллекта” тут осталось недолго: объявят, как говорится, через сообщения в газетах, не сомневайтесь.

(via)

Кругом buzzwords про ИИ. Некоторых эти самые buzzwords уже пугают. Вот и до Firefox добрались: в новом “стратегическом сообщении” пишут, что переделают Firefox в “современный ИИ-браузер” (“It will evolve into a modern AI browser and support a portfolio of new and trusted software additions”).

С одной стороны, понятно, что это просто дежурная штамп-фраза, без которой сейчас никуда в области корпоративных пресс-релизов. С другой стороны, для Firefox, конкретно, звучит оно пугающе. ИИ-хайп настолько уже велик, что подкладывают его везде. Нормального ПО нынче всё меньше. Почему? Потому что – ну, как же! – “ИИ полностью трансформировал разработку!”. Тут того и гляди линуксовое ядро начнут превращать в “ИИ-агента”, а там и до FreeBSD доберутся. Так что браузеров-то и подавно, считай, не осталось уже.

С некоторым удивлением обнаружил, что “Хабр” теперь подставляет некие ссылки на ИИ-агентов прямо в текст статей, туда, где, конечно, никаких таких ссылок быть не могло. Пример на скриншоте ниже я взял из своей статьи про сложение точек эллиптической кривой.

Понятно, что “Объяснить код с” – это добавление. Я в статье использовал только блок разметки “Код”, но не указывал никаких там рекламных ИИ-агентов. Разметка является составляющей частью текста статьи, тем более, на “ИТ-сайте”, а блок разметки для кода – это блок разметки для кода, но не место контекстной ссылочной рекламы (для такого должен быть тогда уж отдельный тип блока). Понятно, конечно, что на подобном сайте может (но не должна, заметьте) быть реклама: там уже есть и всякие всплывающие окошки, и баннеры, и ссылки, и т.д. Но подмешивать ссылки в текст статьи – это как-то слишком. Особенно, когда это очередной ИИ-хайп.

В качестве ответа на весьма разумные предупреждения о том, что “умные колонки” могут подслушивать окружающих, СМИ цитируют сообщение пресс-службы “Яндекса”, в котором по этому поводу говорится, что, мол, колонки подслушивать не могут, потому что, буквально, “процесс обработки голоса запускается только в тот момент, когда микрофоны улавливают активационное слово”. Это очень забавно.

То есть, чтобы начать “обработку голоса” – их колонке нужно “уловить активационное слово“. Но ведь очевидно, что для улавливания слова – необходимо обработать голос.

Кстати, я недавно писал про то, что “кнопка отключения микрофона”, – в подобном-то устройстве, – так себе аргумент.

Попытались силами ChatGPT определить дату выпуска японской монеты периода Мэйдзи номиналом в 20 сенов. Загрузили в ChatGPT современной версии (пятой) фотографию именно той стороны монеты, на которой указана искомая дата (ну, такой эксперимент), направили “промпт” на русском языке. ChatGPT узнало монету в 20 сенов, рассказало, что годы таких японских монет обозначаются по периодам императорского правления (это верно), привело пример обозначения (!), а потом заявило, что нужно перевернуть монету и прислать фотографию другой стороны – типа, дата написана на другой стороне, а по имеющейся фотографии определить нельзя. Но на другой стороне написан номинал, а не дата. Дата как раз записана на той картинке, которую в ChatGPT и загрузили (специально).

Очередной типичный и практический пример, показывающий реальный уровень “полезности” данного инструмента и то, сколько там “интеллекта”. А ведь утверждают, что ИИ LLM нужно поручить анализ данных медицинской диагностики: рентгенограмм там, и других подобных данных. Но это одна из самых продвинутых LLM – и не может прочитать год выпуска старой японской монеты, хотя приводит верное описание того, как этот год записывается и интерпретируется.

Да, на таких японских монетах дата указывается по году периода, и записывается набором из нескольких иероглифических знаков. Если слева направо: обозначение “год”, потом номер самого года, потом – обозначение периода. Например (здесь группы знаков разделены точками, для наглядности): 年 . 七十三 . 治明. То есть, если теперь справа налево, то “Мэйдзи 37-й год”, или 1904 “европейский”. На аверсе монеты 1904 года в 20 сенов дата отчеканена справа от латинского обозначения номинала “20 sen” (см. фото ниже). Именно фотографию аверса и отправили для анализа. Присутствие латинских букв и арабских цифр могло бы помочь ChatGPT, если бы там был “интеллект”, но не помогло. На реверсе же монеты написан только номинал “20 сенов”, но японскими обозначениями: то есть, японские цифры там присутствуют, но это не год.

Аверс монеты – слева на коллаже. Именно эту фотографию и направили в ChatGPT (конечно, в большем разрешении).

Нетрудно предположить, как такой ответ ChatGPT получился: в интернетах на форумах часто пишут про монеты, что, мол, пришлите “фотографию лучшего качества”, “можно понять только по другой стороне” и т.д. Вот наборы таких фраз и склеились в ответ. При этом верное, в общем-то, описание – никак не повлияло на ошибочную формулировку. Потому что описание сконструировано не из смысла запроса, а исходя из набора “токенов” (слов и слогов) и их взаимного расположения. Это – программа. Генератор текстов.

Получается, что ChatGPT таким ответом даже успешно запутало бы незнакомого с предметом пользователя – ведь в предложении перевернуть монету есть логика: да, часто дата отчеканена на другой стороне, не на той, где написан номинал (пояснение: номинал здесь пользователь читает там, где он записан латиницей и арабскими цифрами).

А о том, что вышло бы из ChatGPT после загрузки фотографии реверса, мы в этой записке не узнаем: доступные токены закончились – видимо, картинки потребляют их особенно много.