Сон искусственного разума

[chasovschik]

Загадочная для меня проблема всяких ИИ: надписи в картинках. Вывески там, знаки всякие и так далее. Там с самого начала и до сих пор получается всякая абракадабра и гобблдигук вместо нормальных надписей. Сейчас чуть получше, но все равно. Казалось бы, это как раз то, что искусственный интеллект умеет лучше всего - слова писать. Картинки рисовать тоже умеет. Очевидно, для ИИ есть существенная разница между созданием текста в компьютерном смысле и письмом в традиционном понимании, где каждую букву надо было выводить каким-нибудь стилом. Ну и возникают проблемы известного типа "Я уже букву К нарисовал". Наверно, просто никому не приходило в голову их отдельно тренировать это делать. Ну или у них там дико узкая специализация: кто умеет писать, рисовать не умеет, и наоборот. С другой стороны, прогресс все-таки есть. Заголовок вот тут уже вполне человеческий, например.



Остальное тоже неплохо и даже креативно. "Ну и захеж мы купыии слолко едя?" О чем речь, понятно, и новые слова тоже в тему. "Захеж", если приложить некоторые усилия, может даже пойти в народ.

(Это я увидел у кого-то в Фейсбуке только что. К сожалению, пока сохранял картинку, долбаный Фейсбук выдал свежую порцию постов, а старая пропала, как там заведено. А я не помню, кто это был. Если кто в курсе, подскажите, чтобы я ссылку поставил.)

Пойду потребую у нанобананы какую-нибудь каллиграфию и посмотрю, что получится.

UPD: посмотрел. Попросил нанобанану сделать картинку с текстом, написанным каролингским минускулом.



Текст был воспроизведен из промпта почти безукоризненно - в первой строке ошибка, вызванная, видимо, моим требованием сделать инициал. Шрифт к каролингскому минускулу относительно близок, хотя рукописным не выглядит (но это уже совсем другая история). Возможно, объяснение загадочным надписям надо искать или в бесплатной природе тех мест, где их делали, или в проблемах с промптами.

Comments

[yankel]

Забавно. Я на ошибки даже не обратил внимания. Мозг ухватил все слово

[chasovschik]

Кстати, да. Ошибки тут носят такой характер, что их легко игнорировать. Там в комментариях тоже никто практически за это не зацепился. Ольшевский пользуется этим же генератором с такими же результатами, и тоже никто внимания не обращает. Напоминает историю с легко читаемым словом, составленным из геометрических фигур.

[dbutrin]

почти уверен, что в каком-нибудь 2009 году llm делал совершенно такие же ошибки в текстах.

[vlad_m]

Я тоже. Потом вернулся, вспомнив о теме поста.
Известный эффект.

[abuela]

на самом деле это очень похоже на распознавание текста сканером с нечёткой печати. Ошибки типичные, вот это вот захеж. Странно, конечно.

[dbutrin]

ну да. это он, в сущности, всякий раз распознает капчу.

[chasovschik]

Наоборот, он всякий раз ее рисует.

[dbutrin]

ну, мы-то с другой стороны зеркала. можно и так сказать.
занятно, кажется, этот странный эффект можно усовершенствовать буквально тремя-четырьмя командами при обучении, объединив некоторые слои его слоистой "памяти". видимо, никому не нужно это специально - ну, или там есть неведомые нам технические сложности, например, разные принципы формирования соотв. ассоциативных слоев для видео-, аудио- и текстовой информации.

"Захеж", ... может даже пойти в народ

[idan11]

Мне нра - надо продвигать.
"Десятей салатов" тоже хорошо заходит.

Re: "Захеж", ... может даже пойти в народ

[chasovschik]

Интересно, где в "захеж" ударение. Я подозреваю, что на первом слоге, но у меня с этим всегда были проблемы. Я большинство новых слов узнавал из книг и ударений не чувствую.

Re: "Захеж", ... может даже пойти в народ

[dimorlus]

Наверное, там же, где и в "зачем".

Re: "Захеж", ... может даже пойти в народ

[vlad_m]

Или зАхер?

Re: "Захеж", ... может даже пойти в народ

[chasovschik]

Вот-вот. Никто ведь не знает, "захеж" - это в оригинале "зачем" или "нахер".

Лично я воспринял "захеж" как сокращенное "за каким же хером". Если ставить ударение на второй слог, это теряется.

Re: "Захеж", ... может даже пойти в народ

[alexeybobkov]

Как вы сами выше заметили, у модели геометрический подход к написанию текста, поэтому ошибки и не бросаются в глаза при невнимательном прочтении. Исходя из этого я думаю, что "захеж" это всё-таки искажённое написание "зачем".
Но нам-то, спрашивается, какое дело до происхождения термина? Мне тоже ударение на первый слог, пожалуй, больше нравится.

[alexeybobkov]

Задумался, куда ставить ударение в "захеж". И так и так хорошо.

[alexeybobkov]

О, не заметил, что у вас тот же вопрос)

[1master]

Потому, что картинки генерятся совершенно не текстовыми моделями, а у тех совсем другой подход к снаряду.

[mimafi2]

Похоже на то. Мне недавно пришлось генерить меню. (Не спаашивайте, зачем). Текст отдельно отлично. Дизайн отдельно отлично. Вместе - рукалицо.

[chasovschik]

А это одной моделью делалось или разными?

[mimafi2]

Одной все три. Отдала потом мужу доводить до ума фотошопом.

[chasovschik]

Я дизайн роботам пока не доверяю, а так очень похоже. Как раз только что работал с клиентом, который по своему продукту ни иллюстраций внятных не мог предоставить, ни текста, пришлось и то и другое фигачить с помощью ИИ. Правда, я разными моделями пользуюсь, и вместе свожу не в Фотошопе.

[vakhitov]

"Захеж" — это просто "зАхер", но с польским или чешским колоритом.

[chasovschik]

Первая мысль у меня была - это ошибка, должно быть "нахеж". А вообще см. выше.

[solomon2]

Попросите его изобразить часы со стрелками, показывающие 12:03. Предсказываю, что он покажет 10:10.

[dbutrin]

и он таки пытается написать осмысленный текст - но, видимо, исключительно исходя из тех надписей, которые были в сете обучения на картинках, а не в виде текстов как таковых. пишет он именно текст. но текст на картинке и текст-текст без картинки для него - два непересекающихся множества.
поскольку таких надписей на картинках на три-четыре порядка (как минимум) меньше, чем просто текстов - через некоторое время он будет писать такие надписи на приемлемом уровне. и это будет тогда, когда тексты он научится генерировать на уровне, недоступном при обычном владении языком - т.е. через год-полтора, видимо.

[chasovschik]

Подозреваю, что эта хрень пока что не может даже точно воспроизвести то, что написано в промпте.

[dbutrin]

ну, оно сказочно быстро учится. вернее, даже не так. ей сказочно быстро добавляют мощности.
за последний год оно научилось писать пресс-релизы лучше 50% пресс-секретарей стран G7. год назад представить себе было невозможно такой прогресс.
ну и окна для токенов стали просто огромные. сейчас в них нормально влезает среднего размера книга. это уже более или менее хорошо. когда контекстное окно будет размером с областную библиотеку, это уже будет очень много. сейчас специалист-гуманитарий оперирует в конкретной теме, я думаю, 25-30 текстами размера книги в течение нескольких месяцев. если эта штука ему расширит окно до 300 - это будет совсем другое дело, ибо рядовой человек такое не в состоянии делать, это для него подвиг.
думаю, через полгода-год надо будет это все нормально осваивать. оно точно перестало быть игрушкой для амбициозных переростков, это правда. инструментарий к этой штуке сильно отстает от ее возможностей.

[chasovschik]

Провел эксперимент - я был не прав. Может. Сейчас апдейт сделаю.

[dbutrin]

а. так оно их не само "выдумывало", т.е. аппроксимировало из существующих (я, например, видел похожие ошибки на сгенерированной картинке "красноармейского митинга в 1917 году"), а неправильно рисовало заранее заданный текст?
это другая проблема. бог весть, что ему нужно тогда. возможно, он действительно пытается понять из набора существующих у него в "предпамяти" картинок, как это может выглядеть - и портит текст, исходя из усредненного качества надписей на этих картинках.

[dbutrin]

но тогда откуда "десятей саладов" взялось? это же явно усреднение текста, а не картинки.
буквы-то он может отрисовывать по картинке - перевод шрифта в символы явно не двусторонний процесс. но тут он слова подбирает.

[chasovschik]

Хрен его знает. Может, промпт был типа "вот тебе текст, нарисуй иллюстрацию, а в пузыри вставь че-нить из текста по смыслу".

[dbutrin]

(PS - устное народное творчество с просторов телеграмма, отчасти раскрывающее тему)

мы с приятелем в НИИ
проектируем ИИ
как чего не генерируй
получаются хуи

пока что, в общем, далеко от сингулярности. но движение есть.

[i_mko]

Жена на работе использует Клод для написания тестов, а Копайлот делает код ревью. Клод набросал тест, Копайлот сделал ряд замечаний, Клод: "Good catch!". Жена наблюдала с интересом за их битвой. Но что будут делать внуки не понимаю.

[ymarkov]

Выбор текста для каллиграфии одобряю :-)