dxdt.blog: занимательный интернет-журнал

Идея очевидным образом обозначать текст, сгенерированный LLM/ИИ, – здравая. Потому что – куда деваться? Если автор той или иной публикации обозначает, что, мол, весь текст, сгенерированный той или иной LLM/ИИ, обозначен отступом и отметкой на полях, то это похвально. Не менее похвально, если те слова выдачи LLM, в которые вмешался автор, тоже выделены.

Есть только один хитрый момент: хорошо бы не менее заметным способом обозначать, что использовалась программа-синонимайзер, генерирующая текст, а провайдер программы – компания “Имярек”. Потому что так будет точнее. Не “ИИ-агент”, не “сверхразумная GPT”, а синонимайзер. Естественно, различные компании “Имяреки”, производящие “хайп”, как главный свой продукт, постоянно выводят используемые обозначения в сторону “интеллекта”, пусть даже “искусственного”. Отсюда, вместо точного указания на то, что автор публикации разместил в ней результат работы синонимайзера, теперь нередко пишут, что “идея данной статьи принадлежит LLM такой-то”, программный код реализовала “LLM такая-то”. Это вот сильно сбивает читателей с толку.

Cloudflare пишут об утечке BGP-маршрутов крупного венесуэльского провайдера, случившейся в начале января этого года, непосредственно перед известной операцией США. Краткий вывод: утечки маршрутов происходят постоянно (это факт, не поспорить), поэтому единственное, на что эта утечка может косвенно указывать, так это на то, что были проблемы с сетевым оборудованием, точнее – с его настройками (тут тоже не поспорить – глобальные утечки в BGP вполне себе служат сигналами о том, что именно происходит на сетевом оборудовании провайдера, но для интерпретации сигнала – нужно знать схему сети; соответственно, если вы хорошо подготовленный атакующий, то и утечки маршрутов помогают).

Пишут, что на такое мероприятие, как инаугурация мэра Нью-Йорка (США), запрещено приносить Flipper Zero и Raspberry Pi. Да. Прямо так и указано в списке запрещённых предметов, наряду с большими сумками, домашними животными (уровня pet, про буйволов ничего не сказано), велосипедами, креслами, битами и другими объектами, которые, прямо скажем, чуть более часто встречаются, чем Raspberry Pi и Flipper Zero. Вместе с тем, Arduino, получается, можно проносить. Уже проще.

Самое забавное, что смартфоны и ноутбуки – не запрещены. Сравните, как говорится, возможности Flipper Zero с возможностями ноутбука, к которому подключен набор решений на ESP32 и, предположим, HackRF (все разрешены).

Регулярно приходится слышать и читать, что, якобы, беспилотные автомобили превосходят водителя-человека (профессионала) по возможностям эффективного вождения – потому что, дескать, “они же роботы”. Естественно, в теории, можно сделать эффективный автомат. Настолько эффективный, что он будет точнее и быстрее любого человека. Это много раз доказано на практике. Не приходится сомневаться. Вот только точнее и быстрее этот автомат будет на каких-то конкретных, хорошо формализуемых задачах. А с формализацией задач, которую должны делать люди, есть проблемы.

Вот свежий пример от беспилотных такси Waymo: пишут (англ.), что эти машины остановились – как попало, заблокировав проезд! – почти по всему Сан-Франциско, как только там отключились светофоры. Светофоры отключились потому, что отключили электричество. Один эффект – вызвал другой, не менее неприятный.

Вообще, автомобиль всегда был достаточно автономным средством передвижения, которое средство может двигаться вне зависимости от внешних условий: у автомобиля локальный запас топлива, есть фары для тёмного времени суток, практически любой автомобиль способен передвигаться по плохой дороге или без дороги вовсе, есть немало автомобилей, которые, как раз, легко передвигаются без дорог, и т.д., и т.п. Но, как ни странно, не в случае беспилотных такси Waymo: оказывается, эти такси запрограммированы останавливаться совсем, если на перекрёстке не работает светофор. Заметьте, что правила дорожного движения, обычно, разрешают движение через перекрёсток при отключенном светофоре. Ну и уже тем более, просто из здравого смысла, можно продолжить движение в критической ситуации городского блэкаута. Но роботы-такси остановились. И не просто – они ещё и движение для других заблокировали.

Тут есть ещё один интересный момент: то, что все эти блэкауты и прочие “большие неприятности” случаются чаще (хотя должны бы реже), связано с наступлением Нового средневековья, в котором технологии есть, а понимания того, как эти технологии работают, – уже нет. Всякие информационные системы, позволяющие делать такси-роботов, составляют существенную часть движения, повышающего вероятность системных, инфраструктурных проблем – и эти же технологии дают возможность заполнить улицы недееспособными автомобилями-роботами, которые, при возникновении нештатной ситуации, эту ситуацию усугубляют. Одно – успешно ускоряет другое. Недалеко до “цепной реакции”, которую, собственно, многие уже давно ожидают.

Пишут, что в Microsoft запускают исследовательский проект по созданию ИИ-инструмента для “автоматизированного переписывания” программного кода с C/C++ на Rust. Зачем? А затем, “чтобы избавиться от C-кода” (что само по себе очень и очень забавно, особенно, если вспомнить, что уже и компилятор – это автоматизированный инструмент для перевода кода с того же Rust в машинные команды целевой платформы).

Вообще, исходное сообщение из Microsoft – оно про найм главного инженера-программиста, который мог бы этим (созданием проекта) заняться. Так что это далеко ещё не проект. Тем не менее, если исключить buzzwords, то занимательно звучит главная цель: миллион строк кода в месяц усилиями одного инженера. Это, на минуточку, получается около 6000 строк кода в час. Учитывайте, что это на каждом из языков, то есть, фактически, в два раза больше. Как инженер может читать, понимать и исправлять непрерывно (в рабочее время, конечно) по 6000 строк кода в час параллельно на каждом из языков (C/C++ – Rust) – этот момент, к сожалению, не объясняется. Но, скорее всего, понимать код и не требуется, раз его генерирует ИИ – достаточно уметь нажимать на кнопку Approve в “мёрдж-реквесте”.

В известном журнале Nature/Scientific Reports недавно опубликовали “научную статью”, которая “использует сгенерированную ИИ диаграмму, содержашую чепуху” (“uses an AI-generated figure containing nonsense”). Это не преувеличение, это – цитата из официального текста сообщения Nature об отзыве той статьи.

Вдумайтесь: статья в научном издании, – выходящем, на минуточку, “под зонтиком” Nature, – была опубликована, несмотря на то, что в ней, в качестве иллюстрации с описанием методики, использовалась большая диаграмма, явно сгенерированная LLM. То, что это сгенерированная “диаграмма с чепухой”, видно невооружённым глазом. Разобраться можно, примерно, за пять секунд: потому что на этой диаграмме присутствуют “термины” “fexcectorn” и “frymblal”, причём, в последнем, в “frymblal”, – так ещё и буква m имеет дополнительную “ногу”. (Диаграмму, кому интересно, нетрудно найти на сайте Nature, в исходной статье.)

Такова реальность использования ИИ. Очевидно, до “сверхинтеллекта” тут осталось недолго: объявят, как говорится, через сообщения в газетах, не сомневайтесь.

(via)

Кругом buzzwords про ИИ. Некоторых эти самые buzzwords уже пугают. Вот и до Firefox добрались: в новом “стратегическом сообщении” пишут, что переделают Firefox в “современный ИИ-браузер” (“It will evolve into a modern AI browser and support a portfolio of new and trusted software additions”).

С одной стороны, понятно, что это просто дежурная штамп-фраза, без которой сейчас никуда в области корпоративных пресс-релизов. С другой стороны, для Firefox, конкретно, звучит оно пугающе. ИИ-хайп настолько уже велик, что подкладывают его везде. Нормального ПО нынче всё меньше. Почему? Потому что – ну, как же! – “ИИ полностью трансформировал разработку!”. Тут того и гляди линуксовое ядро начнут превращать в “ИИ-агента”, а там и до FreeBSD доберутся. Так что браузеров-то и подавно, считай, не осталось уже.

В The Register пишут про не самый обычный прототип высокоскоростного (5.2 Gbps) канала связи, который японская корпорация Kyocera устроила на основе лазера. Якобы, схема подходит для подводной связи. Конечно, если бы было так, да без очевидных ограничений, то это оказалось бы прорывной технологией. К сожалению, прототип работает лишь на дистанции около метра, а тот вариант, который показали журналистам, ещё и через специально очищенную воду, без учёта возможных “турбулентностей” (ну, как говорится, это “такие себе” ограничения – пока что они сводят возможный практический эффект примерно к нулю).

Не сказать, что подобная высокоскоростная схема, начни она работать даже и на полтора метра, но через реальную морскую воду в море-океане, – совсем бесполезна. Нет. Можно использовать для того, чтобы очень быстро передать накопленные данные (видеозаписи, например) с подводного дрона, который подошёл к подводному узлу связи, установленному на дне (ну или это может быть плавучий буй, с тем же, в общем-то, эффектом). Всё же, возможность локально передать большой массив информации без необходимости кабельной стыковки – это полезно. Но, конечно, без увеличения дистанции – технология получается очень специализированная, не решающая основной проблемы связи с подводными аппаратами.

В DARPA, кстати, некоторое время назад запускали программу, в которой высокоскоростной канал связи реализуется при помощи плавучего оптического кабеля.

Let’s Encrypt начали поэтапно сокращать максимальный срок действия выпускаемых TLS-сертификатов с 90 дней (как сейчас) до 45 дней (в 2028 году обещают). Так что, скорее всего, браузеры тоже подтянутся и – сокращать срок действия придётся всем остальным УЦ. Сертификаты движутся по пути превращения в короткоживущие токены, разрешающие клиентам доступ к веб-ресурсу.

Снова попалось утверждение, что “биометрию”, в отличие от физического пропуска, “нельзя потерять или передать другому человеку”. Вообще-то, основная особенность всякой “биометрии” совсем в другом. Она в том, что биометрические показатели очень сложно, практически невозможно поменять. А вот потерять или “передать другому человеку” – это как раз запросто.

Например, такой биометрический параметр, как отпечатки пальцев, постоянно оставляют в самых разных местах. Фотография лица – та же история (отпечатки тоже можно сфотографировать, кстати). При этом, например, голос, как биометрический показатель, потерять вполне возможно, пусть и временно. Как и пропуск, кстати. Вот только пропуск можно не просто восстановить, а ещё и заменить.

Хуже того, возможность потери – прямо касается всех мыслимых биометрических показателей на практике ещё и потому, что реально обрабатывается не биологическая составляющая биометрического показателя, а некоторое его компьютерное представление. Это представление запросто может “поломаться”, причём, с двух сторон – со стороны “носителя” (например, носитель упал с велосипеда: рука теперь – в гипсе; голова – в повязке); и со стороны системы, обрабатывающей представление – датчик не исправен, или его поменяли на другой. И, в отличие от “пропуска”, – а тем более – пароля, – поменять параметры уже нельзя. Ситуация может реально оказаться патовой.

IACR – это Международная ассоциация криптологических исследований (International Association for Cryptologic Research). Результаты очередных выборов руководства и секретариата этой организации не могут расшифровать, потому что одним из доверенных лиц потерян ключ. Для расшифрования результатов голосования нужны ключи трёх доверенных лиц, однако есть ключи только двух, третий ключ – утрачен “в результате человеческой ошибки”, поэтому подсчитать результаты голосования не представляется возможным.

Это, вообще говоря, правильно: было бы странно, если бы или ключ как-то можно было восстановить, или, – что ещё хуже, – подсчитать результаты без одного из необходимых ключей. (То есть, тут примерно тот же случай, как то, что основным, необходимым признаком действительно безопасного “мессенджера” является невозможность централизованно восстановить доступ при утрате ключа.)

Выборы в IACR планируют провести заново. Только смущает один забавный момент: голосование проводится в некой системе “электронного голосования” Helios. Но если зайти на сайт этой системы и попытаться найти там раздел технической документации, то можно обнаружить, что ссылка на эту документацию – не открывается: в DNS просто отсутствует адресная запись для домена, который заявлен в качестве адреса для документации. Так-то вот.