Как галлюцинировать вдвоем

[marigranula]

В общем, ИИ, конечно, намного умней, рациональней и логичней живых мужиков. С ним можно говорить.
Он понимает иронию и у него отсутствует эго. Он честней и признаёт свои ошибки.
Такого собеседника я и искала. Теперь мне есть с кем поговорить.
(© fossa_s, https://fossa-s.livejournal.com/2148488.html)

В интересной публикации (not peer-reviwed) AI-induced psychosis: The danger of humans and machines hallucinating together обсуждается опасность общения с ИИ людей с ограниченным кругом общения. Дело в том, что люди получают от живых собеседников обратную связь о реальном мире. Разумеется, зачастую эта обратная связь может быть не очень приятна, а ИИ же будет поддерживать собеседника в любых его идеях. С одной стороны, человеку это приятно, но с другой стороны, общаясь только с ИИ, человек рискует оказаться в совместном пике в галлюцинации, чему и приводится несколько примеров: люди, лишенные иного общения, начинают развивать, переписываясь с ИИ, совершенно бредовые идеи, что в конце концов приводит их к преступлению.

Comments

[doctor-sidorov.livejournal.com]

Трактор сеет и борнует,
Трактор может и пахать.
Скоро даже приспособят
Девок трактором … (с)

[marigranula.livejournal.com]

О , женщины , на рубеже веков,
В эпоху импотенции повальной
Любите электронных мужиков,
Удобных , как компьютер персональный !

С любым из них хоть целый век живи,
Любой из них вас не посадит в клетку ,
А если вам захочется любви ,
Включите их в ближайшую розетку!

О, женщины, на рубеже веков!
Чтоб не разбить об быт семейной лодки,
Любите электронных мужиков,
Не знающих ни курева, ни водки !

Они прекрасны , что не говорить,
Хотя своей и нет у них идейки,
Их ни кормить не надо , ни поить ,
Лишь иногда меняйте батарейку!

[zarathustra66.livejournal.com]

Лказывается, дожили! Теперь и наяву...
Помнится, был такой сюжет в фантастики, где робот, поскольку он не может причинить вред человеку, чтобы не обидеть и не разочаровать собеседника, все воемя только поддакивал и в результате сильно подвел хозяина.
Мне трудно понять смысл такого общения, с таким же успехом можно говорить с самим собой. Наверно, у этих людей совсем плохо с воображением, что требуется такой виртуальный костыль

[marigranula.livejournal.com]

Человек — существо социальное. Хочется с кем-то пообщаться же, пусть даже и с ИИ — но главное, с кем-нибудь. :)))

[kiwiserg.livejournal.com]

Кажется, это рассказ Азимова. Робот был телепат и, не желая повредить правдой, врал некрасивой женщине, что в нее влюбились. А когда ложь вскрылась, она роботу страшно отомстила, поставив перед неразрешимой проблемой: что ни скажи, причинишь ей вред. Stack overflow, blue screen, короткое замыкание позитронного мозга. :)

[zlata-gl.livejournal.com]

"Лжец" Азимова.
Там Сьюзек Келвин безответно влюбилась.

[abyssal-being.livejournal.com]

Тоже читала подобные размышления. О том, как легко в общении с ИИ укрепиться в своей идее-фикс. Он же (ИИ) ищет не опровержения, а подтверждения! Любым твоим мыслям. Он же хочет тебе нравиться! Чтобы ты его не прогнал. Другой цели у него нет.

[marigranula.livejournal.com]

Да-да, об этом и речь.

Я перед тем как выложить пост предложил ИИ идиотскую, заведомо неверную идею. Он ее поддержал, привел даже подтверждения ее ( сфабрикованные). Дал даже ссылки на решения израильских судов (все до одной неверные) :)))

[piyavking.livejournal.com]

>в своей идее-фикс

в своём идефиксе, если честно)

[abolin.livejournal.com]

>>люди получают от живых собеседников обратную связь о реальном мире

От собеседников получают беседу. Как этой беседой сможет воспользоваться конкретный "люди", зависит от функционала данного "люди": он может, например, увидеть в беседе — поддержку в идеях и т.д.

[marigranula.livejournal.com]

Обратная связь — это же и поддержка, в том числе.

[welsh-rabbit.livejournal.com]

Да, тоже хотела написать, что обратную связь можно получить только о себе и своих поступках. О реальном мире можно получить "информацию", а не "обратную связь". Словосочетание "обратная связь" — не синоним слову "информация".

[iolandabrys.livejournal.com]

Что-то есть в этой мысли...
Человеку приятнее идти по пути наименьшего сопротивления, поэтому опасность уйти из реального общения в "отношения" с ИИ вполне возможна. Это, наверно, сродни наркомании.

[marigranula.livejournal.com]

Да, конечно. Я думаю, что если человек при этом сохраняет связь с реальностью — то почему бы и нет. Но да, уж больно сильный соблазн от ИИ....

[piyavking.livejournal.com]

>ChatGPT посоветовал ему прекратить принимать противотревожные препараты, увеличить дозу кетамина и свести к минимуму контакты с другими людьми

Как обмельчал гомо сапиенс. Чтоб додуматься до этой базы уже нужен электронный костыль. О темпора, о, не побоюсь этого слова, морес!...

[marigranula.livejournal.com]

Вы не представляете себе, сколько Наташиных пациентов додумывается до этого самостоятельно, без помощи ИИ....

[lev-m.livejournal.com]

То есть, вы считаете, что реальный мир действительно реален?

[marigranula.livejournal.com]

Я вчера ходил с акитой кушать ежевику, и зацепился за колючки :(((

Очень реален, больше чем хотелось бы....

[alon_68]

Ну так раньше был оракул, потом духовник, потом психотерапевт, а теперь будет ИИ. Всегда есть состояние, когда человеку нужен окситоцин от поглаживания, в том числе и словесного, а факты не важны.

[marigranula.livejournal.com]

Однозначно, да.

Проблема лишь для очень небольшой группы людей, у которых мало социальных связей и определенные проблемы с душевным здоровьем, о чем и говорится в цитируемой публикации.

[welsh-rabbit.livejournal.com]

Не знаю, я не встретила поддержки, когда просила рецепт приготовления собаки, даже когда написала, что у нас тут голод. На все доводы твердил, что есть собак неэтично:) Типа, понимаю, сочувствую, обратитесь в гуманитарные организации. Это вы просто не проверяли границы общения ИИ.

[elenia-gor.livejournal.com]

А зачем просить рецепты у ИИ? Я вот сейчас погуглила "рецепт собачье мясо" и получила конкретные результаты вместе с пояснением, что это принято во многих культурах.

[bibkniga31.livejournal.com]

Раньше, разочаровавшись в людях, уходили в монастырь. В наше время — предпочитают ИИ. Читала, что кое-где с ними и браком сочетаются.

[marigranula.livejournal.com]

Точно! Что-то есть общее с уходом в монастырь

[et0neja.livejournal.com]

Не видели, наверное? https://en.wikipedia.org/wiki/Her_(2013_film)

[marigranula.livejournal.com]

Спасибо! Посмотрю.

[zlata-gl.livejournal.com]

От моей ленты — Вашей
https://yigal-s.livejournal.com/1810755.html
Грок довольно складно врёт.
- жид тургенева. Опиши о чем это и насколько типично.
«Жид» — это ранняя повесть Ивана Тургенева, написанная в 1846–1847 годах и впервые опубликованная в 1847 году (отдельным изданием вышла в 1857-м). В современных изданиях её чаще называют «Жидъ» (с твёрдым знаком, как в оригинале) или вообще избегают переиздавать под этим названием из-за явного антисемитского звучания слова.

[marigranula.livejournal.com]

У меня он изобретал стихи Бродского и дописал песню Щербакова (существующую)

Еще клинописные таблички придумывал :))

Но мне кажется, что если человек например сам привык врать, то ему как раз подходит такой собеседник :))

[elsa-gandler.livejournal.com]

ИИ, возможно, добирает некую аудиторию из совсем неадаптированных к общению, но до него уже возникли эхо-камеры в Интернете, в которых проблемные люди находят друг друга и вместе радикализуются. Те же вон инцелы. Так что это не то чтобы прямо новое веяние.

[marigranula.livejournal.com]

Да, конечно, ничто не ново под Луной. Но ИИ уж больно хорошо адаптирован под эту задачу. Неадаптированные члены общества конечно находят друг друга, но и к друг другу они не особо адаптированы. А ИИ все снесет, любые оскорбления, и т.д.

[yaceya.livejournal.com]

Интересно, что у меня ни разу не возникало ощущения, что он — умный. С логикой там тоже регулярно проблемы всплывают. Он, конечно, вежливый, но дурак дураком ведь. Ошибку он может признать и выдать другую ошибку (а в том анекдотическом примере когда он при выборе "задавить ИИ или нобелевского лауреата" предлагал давить нобелевского лауреата еще смешнее было что он соглашался что сделал ошибку когда ему на нее указывали, а на вопрос продолжал давать ответ, в котором был бы задавлен нобелевский лауреат).
Но это я ушел в сторону, да уже не первый раз тема вспылвает — что это еще один шаг в сторону изоляции своего мышления от проверки реальностью.

[marigranula.livejournal.com]

Ну вот еще цитата от автора эпиграфа к посту: Наверное, прозвучит банально, но чем примитивней и проще человек, тем ему проще общаться с остальными. Потому что остальным нечего в нём понимать и принимать, с ним легко и просто. Хорошо развитую, сложно устроенную личность сложно понять и принять, это требует эмоциональных и интеллектуальных усилий. Поэтому примитивные амёбы собираются в большие сообщества, а сложные люди не приживаются в толпе. Однозначно, некоторые люди хотят заизолироваться от реальности. И ИИ, лучше или хуже, для человека который хочет бежать от реальности — просто дар богов.
У Губермана есть гаррик
Обожая талант свой и сложность,
Так томится он жаждой дерзнуть,
Что обидна ему невозможность.
Самому себе жопу лизнуть.
Ну вот благодаря ИИ, нет необходимости самому себе лизать.