ИИ такой ИИ

[prokhozhyj]

 
      Налетел тут невзначай на очень доходчивый примерчик, как именно ИИ врёт. Понадобилось мне один городницкий текст уточнить, ну и сунул я запомнившуюся строку в поисковик. Ну и получил...



      Кто-то, наверное, уже оценил, а остальным под катом искомый текст в его настоящем виде:

     
          И мы когда-то были рыбы
          И населяли тонкий слой
          В расселинах горячей глыбы,
          Что именуется Землёй.

          И нас питала эта влага,
          Вскипающая под винтом,
          Лишь постепенно, шаг за шагом,
          На сушу вышли мы потом.

          Об этом помню постоянно
          Над крутизной морских глубин.
          Милее мне, чем обезьяна,
          Сообразительный дельфин.

          И я, не знаю, как другие,
          Испытываю близ морей
          Подобье странной ностальгии
          По давней родине моей.

          Когда циклон гудит за шторой,
          Всмотритесь в утренний туман:
          Зовёт назад, в свои просторы,
          Наш прародитель Океан.

          И, словно часть его здоровья,
          Дарованная навсегда,
          Стучится в жилах наших кровью
          Его солёная вода.

                                                                   А.Г.

      Но вот этого текста ИИ не знал или не нашёл. Так что просто взял другой, по каким-то признакам похожий, и на голубом глазу стал излагать про него. (С чем он перепутал искомое, желающие могут найти сами: несложно. Если, конечно, и так не знаете.) Но тут-то хотя бы всё дистилированно ясно. Только ведь он же так же и в других случаях делает, где оно в первый момент может не быть очевидно... И врёт, как ИИ.

 

Comments

[redflower99.livejournal.com]

Да, просто сочиняет иногда. Спрашивала дипсик про конкретную агульскую сказку — не нашел, сам сочинил (полную чушь, текст был у меня на руках).

[mincao.livejournal.com]

Иногда ИИ выдает очень годные рассуждения. Иногда такой мусор, что блеват кидат.
Там какой-то непонятный нам принцип, просто погуглить он, как ни странно, не умеет.

Его как-то надо осваивать, не пытаясь нахрапом что-то получить, он очень разный.

...он мне придумывал несуществующие тексты Михаила Щербакова, реально,Ж придумывал, не мог найти в сети оригинала, придумывал!!!

[http://users.livejournal.com/kel_/]

Там понятный принцип — "языковая модель" выдает наиболее вероятный следующий кусочек, примерно как продвинутая версия автовставки, поэтому если на 1 оригинал будет 9 "похожего", модель скомпилирует. Практически во всех нет никакой проверки, там нет "интеллекта", так что "языковая модель" изначально бредогенератор. Это даже не "экспертная система".
Мне встречалась единственная модель, близкая к продвинутому поисковику — Perplexity. Она дает ссылки, "откуда взяла". Остальные обычно генерируют бред, требующий глубокой верификации результата. В каких-то простых вещах оно "угадывает", но по собственному опыту использования — чаще несет чушь. Для приемлемого результата этот инструмент надо основательно настраивать.

[moon-carrot.livejournal.com]

Гугловый ИИ как бы тоже даёт ссылки — там в конце можно по голубой закорючке кликнуть, но это, конечно, не мешает ему сочинять бред.

[hoegni.livejournal.com]

Perplexity хорош тем, что его источники всегда правда существуют, а то ChatGPT может и выдумать публикацию. То есть на голубом глазу, жкрнал, том, страницы, только вот публикации такой нет и никогда не было.

Но то, как Perplexity интерпретирует найденное... Вот тут надо проверять и перепроверять. Ну то есть да, именно продвинутый поисковик, но и только.

[http://users.livejournal.com/kel_/]

Так я Perplexity и использую исключительно как продвинутый поисковик, поскольку остальные поисковики сейчас попросту скурвились. С ним хотя бы получается иногда найти вменяемые источники. Остальные "ИИ" совсем бредовы и бедовы.

[pan-szymanowski.livejournal.com]

Иногда ИИ выдает что-то бредовое, хотя видно, что текст он читал. Я так развлекался со своими творениями.

будьте очень внимательны с нейросетями!

[livejournal.livejournal.com]

Пользователь popugaichik сослался на вашу запись в своей записи «будьте очень внимательны с нейросетями!» в контексте: [...] важно такие примеры показывать нашим детям https://prokhozhyj.livejournal.com/3621110.html?embed [...]

[pan-szymanowski.livejournal.com]

Опросил несколько разных ИИ на предмет их знаний о пауках-топотунах. Мнения несколько разные, но только Алиса прямо сказала, что это фейк и указала но мой сайт.

Deepseek доставил вот этим абзацем:

Название "топотун" или "топотунчик" происходит от характерного поведения этих пауков. Когда их потревожить, они часто топают ногами, производя слышимый стрекотущий или барабанный звук.

[prokhozhyj.livejournal.com]

 Алиса крута :).