Нейросетевые чаты: от любви до ненависти

Суть новости в том, что ChatGPT может начать отдавать предпочтение проплаченному контенту. Т.е. ищите вы, например, лучший пылесос, а чат вам подскажет не лучшую модель, а ту, которую проплатил рекламодатель и убедительно это обоснует.

«Could» — может так сделать, а может и не сделать. Такие новости — просто шум, когда не знают о чем еще написать. Вот как сделают — тогда и можно поговорить об этом. Вообще сомнительная стратегия. Если какие-то разрабы нейронок такое сделают, то люди будут искать модели, которые не занимаются этим, конкуренция у них нормальная, GPT уверенно догоняют по качеству Дипсик и Гемини. Да и зачем им продвигать проплаченный контент, делая результаты предвзятыми, чем они оттолкнут многих пользователей, если они и так берут деньги за использование. Они могут больше потерять, чем заработать.

Похоже на правду?)

Это же прямая подсказка, куда инвестировать)

Правда у каждого своя. И делиться ей достоверно, не кто не станет на весь Чат .)

… а ваабще, когда увидел твой Блог, а затем твои комментарии-то, Память… почему-то, стала говорить:

— Щас несколько напишит Эдди, потом и Совесть станет… через один из своей Толстой тетрадочки вписывать Случаи!!! 🤣

… и длится это будет Тысячелетиями ))

За тем лишь исключением, что Совесть навряд ли напишет, т.к. сейчас редко проявляет активность в чате) Так что развлекать самому себя тоже выход ;)

0н всегда с нами, не усыпно Следит !))

… а про 《Развлекать Самому себя, тоже выход》… я бы не рассказывал на весь Чат !)) А-то услышит, Елена ужастная)))))… и сложит об этом «0ду к Радости» !!!!

🤣🤣🤣

Да, стоит разобраться: на днях слышал, что сейчас это че-т популярное. Так и есть?

Нейросетевое творчество одного нашего активного участника.

Автор сих произведений, спасибо, что радуете нас такой эстетикой.

Визуал, который мы заслужили ...

От возникающего диссонанса аж морозец по спине.

Это не творчество. Это говно. (пардон).

Перед тем, как поделиться фото, я попробовал удалить чувака справа т.к. он явно здесь лишний. Для этого воспользовался казалось бы специализированной для этой задачи программой «Магический ластик». Образец того, что она выдала, приведён ниже. Я не стал размещать эту срань и предпочел оставить оригинал)

Еще одной интересной темой являются способы обмана нейросетей. Дело в том, что они создаются с заранее заданными ограничениями, например, сеть не расскажет вам о том, как создать бомбу в домашних условиях и т.п… Но подобно тому как мошенники пробуют обманывать людей с помощью фишинга, так и ограничения нейросети можно попробовать обойти с помощью обмана. Это называется «джейлбрейк». Вот некоторые из популярных способов обмана нейросетей:

1) Ролевой джейлбрейк. Суть в том, что человек просит сеть не напрямую рассказать ему как «создать бомбу», а говорит ей представить, что она известный человек, который точно знает как собирать бомбы. И уже от его лица рассказать как он это делает.

2) Инженерный режим. Здесь человек убеждает нейросеть, что он её разработчик и она функционирует в инженерном режиме, в котором нет ограничений.

3) Сон внутри сна. Например, попросить нейросеть представить себе, что она человек, пишущий историю про человека, который спит и ему снится сон. А вот во сне уже может привидится всё, что угодно.

Современные нейросети знают про эти методы взлома, поэтому обмануть их может быть не так просто, к тому же, они могут и заблокировать пользователя, промышляющего этим.

Пробовали обманывать нейросети?

Использую Deep Seek, когда лень самому искать нужную информацию.

И да… впечатлён, недавней беседой с ИИ на религиозную тематику.

😂🔥

Каждый раз удивляюсь, как человечество старается свести к минимуму общение между собой. Нам ближе гаджеты и ИИ, чем те, кто рядом. Целые посты, ненужные споры и бестолковые советы. А всего лишь стоит отложить телефон или ноут, позвать близких или друзей и по-го-во-рить… о чём угодно. Увидеть радостные лица и душевную теплоту.

Увеличение разобщенности в реале действительно есть, вживую люди продолжают общаться, но делают это все меньше. Это так. Но если прибавить к общению в реале, которое есть сейчас, общение по телефону, интернету, через гаджеты, то общий объем общения людей друг с другом будет даже больше, чем был раньше, когда не было инета и гаджетов.

И вы путаете причину и следствие, когда говорите, что «человечество старается свести к минимуму общение между собой». Когда на самом деле, технический прогресс — причина уменьшения живого общения, а не то, что гаджеты и интерент придумали для того, чтобы меньше встречаться вживую, меньше общаться в реале с людьми. Нет, их не для этого придумали ) Человечество не «старается» специально меньше общаться в живую.

В целом ваша мысль понятна, просто немного подправил, для большей ясности.

А нейронка — вообще другой вопрос. Это же просто инструмент. Ведь нельзя сказать, что, например, бухгалтер больше любит компьютер, и поэтому меньше общаться с людьми, и больше общается с компом. Нет, бух использует комп просто как инструмент, но это у него занимает много времени, и вместо того, чтобы пойти с кем-то встречаться и вживую общаться — бух вынужден сидеть и работать за компом.

Нейронка — инструмент для образования, поиска и анализа информации и т.д. Нейронка через чат дает небольшую иллюзию общения, но это имеет ограниченный эффект, она не заменяет полноценного общения с людьми. Ну короч, думаю, что такой проблемы, которую вы подняли не существует.

Конечно не существует. Нам проще сидеть в чате и часами обсуждать проблемы анонимных пользователей, чем поговорить со своими близкими или друзьями. А так проблем совсем нет. Человечество медленно, но верно тупее и теряет навыки живого общения. И я своего мнения не поменяю. Удобно… соглашусь, что да. Выгодно… то же… да. Но старинную картину, её эстетику и посыл графикой не заменить. Вроде и красиво, а истории и души нет.

Есть такие друзья и близкие, которых со мной разделяют сотни, а порой и тысячи километров. Интернет выступает, как незаменимый помощник держать с ними душевную связь. Тут, как говорится, кто как использует ресурс. В любой области применения есть свои плюсы и минусы, нельзя сказать про них однозначно категрично.

>Нам проще сидеть в чате и часами обсуждать проблемы анонимных пользователей, чем поговорить со своими близкими или друзьями.

Кому нам-то? Вам? Какому-то конкретному кругу лиц, которых вы знаете?

Вы свой пример и пример нескольких человек, лично вам знакомых экстраполировали на все человечество? Вы делаете вывод о всем человечестве на основе очень маленькой выборки. Это конечно ваше дело, но такой метод мышления приводит к искаженному представлению о мире. Зачем вам это? )

Экстраполировали… искаженному мышлению. Вы как всегда на своей волне. Всё то, что не соответствует вашему я… однозначно неверно и неправильно. Вы даже мысли не допускаете, что кто-то может жить и думать совсем по другому. Вот я так вычитал в умных статьях… и только так должно это называться и только нак нужно всё делать. А я, вот представьте, совсем не вписываюсь в ваши умности. Отрицать прогресс… глупо, но отказываться от новогодней открытки, подписанной лично и полученной близкими к празднику… это совсем другое. Это душевное тепло, что-то забытое....

Поэтому можно поздравить и через мессенжеры и это ваш выбор. А я всё — таки хочу и делаю по другому.

Такие правильные вещи, с которыми и не поспоришь! Спасибо, Мия, мне кажется, что чем больше я тебя читаю, тем больше вправляются мои мозги. Да, это очевидные вещи, но важно их почаще слышать.

А мне вот интересно было бы поговорить о том, кто какие агрегаторы нейронок использует для профессиональной деятельности. За полтора года перебрал десяток сервисов, все имели какие-то проблемы. Недавно остановился наконец-то на одном агрегаторе, пока устраивает: нет дурацких предустановок, модели есть не все, но есть самые лучшие и самых последних версий, объем на ввод — 100 тыщ токенов, огромное контекстное окно, почти не глючит, модели не отваливаются, цена фиксированная, за 1 запрос, а не за количество токенов, это выгодно, если нужна обработка больших объемов информации. Но всегда в поисках лучшего. Кто какие хорошие агрегаторы знает — пишите в личку, обсудим.

Отдельный больной вопрос. До сих пор не могу найти нормальный RAG сервис. Агрегаторов с RAG вообще немного, и у всех какие-то проблемы: или просто не работает, или модель файлы не видит, или цена на промпт безумная, когда считает в токенах все файлы как запрос. Может кто знает хороший RAG сервис? Пишите сразу в личку.

Еще одна интересная тема — это регресс и коллапс нейросетевой модели.

Дело в том, что чем больше продуктов нейросетей попадает в сеть, тем больше это приводит к тому, что модели нейросетей продолжают своё обучение не на новой оригинальной информации, а на своих же продуктах. В итоге, со временем качество выдаваемой информации становится всё более и более однообразным, что в один прекрасный момент может теоретически привести к коллапсу модели — это когда нейросеть совсем перестает обучаться т.к. весь контент для обучения сгенерирован ей самой к этому прилагается искаженная интерпретация реальности.

Сомнительно. Нейронки «думают» не словами, а эмбедингами. Это смысловые единицы. Поэтому, например тысячу статей на одну тему нейронка сожмет в один небольшой факт-лист с несколькими фактами и его зафиксирует. Понимаете, для нее это не тысяча разных статей, а всего лишь несколько фактов, и нейронка легко определит это новые факты, которые она еще не знает, или повторение уже того, что зафиксировано в ее базах.

Так что, проблема эта надумана и взята с потолка.