Проверка текстов в чате на ИИ-генерацию. Вдох и выдох

>Не помню, чтобы в чате у кого-то хватало на это смелости.

https://chatprostotak.ru/blogs/o-tom-kak-silnye-em...

Прочтите лучше этот блог, чтобы сравнить.

Тоже прочитал этот пост. Так удивительно, как будто бы на машине времени в прошлое слетал. Прошлые мысли и ситуации, основные герои же всё те же. Спасибо.

Какой самый живучий паразит? Бактерия? Вирус? Кишечный глист? Идея. Она живучая и крайне заразная. Стоит идее завладеть мозгом, избавиться от нее практически невозможно. Я имею в виду сформировавшуюся идею, полностью осознанную, поселившуюся в голове.

Идея не бывает простой, когда ее нужно поместить в чью-то голову. ©️

Вопрос не в том, кто создает посты, а в том, кто поселил идею в голову того, кто их пишет.

не тоже самое)

Мне нравится иногда мыслить в этом контексте. Что кто-то заразил меня своей мыслью-паразитом и теперь проблема только в том что эта мысль существует, а не в ее сути.
Это я правда не совсем к посту, мне просто понравился ваш комментарий.

Да, он почти у всех

Мы не умеем читать мысли Совести и начинаем гадать. Может быть он сам пришёл к этой мысли, возможно, с помощью других. Так ли это теперь важно? Что это меняет? Имеем то, что имеем.

Посмотрим как события будут развиваться дальше. Единственное что, мне бы не хотелось, чтобы из чата уходили люди, тем более яркие, умные, талантливые.

Совесть сам подсказал правильный подход взаимодействия с ним. Нужно отбросить эмоции и рассуждать спокойно, приводить доводы, доказательства. Может быть предлагать как сделать лучше. К тому же, на какие-то вопросы он отвечает в постах — обратная связь есть.

Елен, а вы уже пробовали прогонять свои тексты через этот сервис?

Не, я про ваши посты в новостях. Про сказку знаю — вы недавно рассказывали.

А зачем?

Вроде поняла вас. Вы хотели чтобы ваша сказка точно зашла людям, поэтому взяли за основу уже существующую и хорошую.

А они тоже должны были переписать чью-то сказку?

😂

Не хотите устроить выставку старых работ? 
Ретро-пост такой)

На самом деле интересный вопрос именно про конкурсы, когда есть победители и проигравшие. Гораздо всё спокойнее и дружелюбнее проходит, когда это не конкурс, а просто люди делятся работами. Как рисунки на кофе. Т.е. можно не голосовать, не выбирать победителей. Просто предоставить участникам, обсуждать в комментариях, словами говорить что им понравилось где и т.п.

Согласна, но когда все участники интеллигентные, то формат конкурс просто добавляет азартного интереса, к самому удовольствию от чтения других работ.

Ну, хоть так))

Все люди и люди разные. Кто-то, проиграв, расстроится. Кто-то ради победы решит смухлевать. По сути же, это всё не ради победы делается. Она здесь в узком кругу всё равно мало, что дает. Главное — участие, вайб. Здорово, когда это объединяет людей, превращая в друзей, создает ламповую атмосферу. Вместо конфликтов, обид и подозрений.

Мне тоже это не нравится и может ЧПТ место правда неподходящее, если мы не хотим никого задеть. Но признаюсь мне не хватает в жизни чего-то вроде конкурса в игровой форме… Конкурсность меня немного раззадоривает и я получаю удовольствие и от участия и от рассматривания чужих работ.

Всем, видимо, не угодишь)

Сейчас формат достаточно честный. Голосуют те кто присылал стихи и/или последние работы. Большого числа доп. аккаунтов точно быть не должно среди голосующих.

Тоже не идеально. Во-первых, таких людей мало и вот я, например, не фейковый аккаунт, а голосовать не могу. Во-вторых, это не исключает голосование «за своих» любимчиков. Т.е. судьи не независимые.

Хотя… они же не знают кто автор. Но могут догадаться. Короче, не просто всё.

«Во-первых, таких людей мало и вот я, например, не фейковый аккаунт, а голосовать не могу.»
Так ничего страшного. Ты просто в следующий раз отправишь свою работу и тоже будешь голосовать.

«Во-вторых, это не исключает голосование «за своих» любимчиков.»
Я знакома с Ведьмочкой длительное время и могу сказать, что она старается оставаться непредвзятой.

Но мне не хочется участвовать самому. Не у всех есть талант или желание.

Да, это еще времени много занимает… Может есть есть вариант договориться?

Ну, т.е. систему тогда нужно переделывать. Типа, каждый может попробовать добавить его к голосованию. Кто-то должен такую заявку одобрять или отклонять. Это вызывает уже свои вопросы. Да, и не настолько это важно, наверно.

Елена что ты носишься как бабка с яйцами с этим конкурсом сказок, прошлое в прошлом, живи будущим 

Семья, выпускайте скрины, выпускайте :D

Ахахах)) Когда прогу мне пропишешь в ИИ костюма, чтоб скрины сохранял по темам и папочкам, будем выпускать пулемётной очередью) А пока просто тут летаю рядом. 

Вообще-то не самый худший вариант эволюции темы) А в итоге можно подкинуть идею сказки про IT! То бишь не эволюциия, а синтез! 

Я видела эту ситуацию с другой стороны. Причина была в другом. Накрутка голосов обесценила конкурс и поэтому она не захотела опираться на результаты. Только поэтому конкурс был отменен, и как следствие создан новый формат.

А чем он может закончиться? Нам объявят победителя.

поспорьте с ней

не проиграете

Так! Подождите. То, что мой якут застрял в снегах и с ним нет связи, ещё не значит, что он там в конец окочурился! Он успеет в срок!

Конечно я не против чтобы ты добавил это в свой плагин! Это было бы странно) 

Тестировать сложно. Xcode можно было бы на маке поставить, но мака у меня нет. Бесплатных эмуляторов на винду я не нашла (вернее они есть, но пишут нестабильные). Кстати, у плагина Скелетик нашел баг. Я его буду править после того, как отправлю на релиз новый плагин. Суть в том что когда ты делаешь больше 15 (приблизительно) записей в заметках о пользователях (разных), то он перестает работать. Если проблема в этом, то могу предложить тебе переустановить плагин чтобы очистить хранилище в котором это все хранится. 

А там же для IOS Lemur Browser вроде тоже должен быть?

Да, фон можно добавить.
Для меня это просто развлечение, так что ничего страшного. Правда сейчас немного настроения нет.

Я почитала немного и я вроде поняла проблему. Оно же у тебя ни разу не запустилось на IOS, да?

Я почитала похоже это из-за политик IOS. Пока не знаю как это обходить.

"Ух ты, новый плагин для этого чата?"
Да, он совместный.

Проект открытый, но наверное здорово сохранить небольшую интригу. 
Там не будут никого скрывать) Скелетик уже добавил свою функцию, а я пока пишу. И то я видишь где и что пишу... 

Сам плагин в консоли не пишет ошибок?

«Тоже не идеально.»
Ага. Но уже чуть лучше чем было)

Так Коф может стихи писала в прошлом конкурсе, как аноним?

А меня, как всегда волнуюет практический и осязаемый выхлоп, Совесть. Мы все на всё имеем право, да. Но вы заявляете своей целью — добиться того, чтобы все авторы указывали о том, что контент (любой, не только текстовый, есть же ещё изображения и музыка) создан с помощью ИИ. Хорошо. Инициатива справедливая. А теперь посмотрим на математику.

ДАНО: 

1. Авторы, которые не используют ИИ и не заявляют об этом, естественно.  

2. Авторы, которые используют ИИ и заяаляют об этом открыто (в комменатриях, в своих постах)  

3. Авторы, которые используют ИИ, но не хотят в этом признаваться.  

4. Есть инструмент, который не даёт 100%-ого верного результата (Вы сами это признаёте). 

ВАРИАНТЫ: 

А) В случае, если используемый инструмент ошибся: 

Группа 1. справедливо ощущает себя оскорбленными. И дело не в споре о том, хорошо это или плохо — использовать ИИ, а в том, что человек делал, затратил время 25 часов, вкладывал интеллектуальные и эмоциональные ресурсы свои целиком и полностью (89 кВт и плюс же ещё по домовому счетчику сколько), а про него во всеуслышание говорят и да ещё настаивают, чтобы он подписал под своим текстом, что он потратил 45 минут и 13 кВт (и по домовому счётчику тоже меньше, вообще-то). Желание что-то творить и выкладывать закономерно пропадает. Кто-то из них справится с этим, договориться со своим желанием и продолжит в обычном объеме. Кто справится, но станет выкладывать меньше. А кто-то не справится и перестанет выкладывать вообще. А кто-то и вообще с чата уйдёт и не вернётся. 

Группа 2 не парится, если инструмент ошибся по поводу них и сказал, что их работы написаны человеком.  

Группа 3 ликует там наедине с самими собой из-за того, что интрумент ошибся и вынес вердикт «чел сам написал» (фигасе, приписку им сделали, что они вместо условных своих 45 минут и 89 кВт вложили в чат условные 25 часов и 89 кВт) и на волне улучшевшегося настроения часть из них начинает выкладывать ещё больше контента). 

В) Если инструмент не ошибся. 

Группа 1 в норме, все ок.  

Группа 2 продолжает не париться, итак все знают.  

Группа 3 начинает косить под оскорбленных группы 1. 

ПОСЛЕДСТВИЯ:  

Группа 1 количество контента сделанного человеком уменьшится на условные 2/4, то есть в итоге составит условных 50% от того, что было до проверок. Количество человек в группе тоже поредеет на условную четверть, то есть количество оставшихся людей в чате составит условных 75% от того, что было до проверок в чате.  

Группа 2 продолжает не париться, количество контента и человек в группе зависит от настроения.  

Группа 3 продолжает где-то париться изображением из себя оскорбленных, где-то не париться, а где-то даже ликовать внутренне. Количество контента созданного с помощью ИИ увеличивается на условных 25%, то есть количество контента составит условных 125% от того, что было до проверок. По поводу количества людей в группе судить не берусь, но вполне возможно кто-то пригласит друзей, хотя навряд ли.

 ИТОГО: 

Количество контента созданного человеком составит условных 75% от прежнего.  

Количество людей, создающих контент самолично составит условных 75% от прежнего.  

Количество контента созданного с помощью ИИ составит условных 112,5% от прежнего.  

Количество людей, указывающих под контентом, что он создан с помощью ИИ, на сколько-то увеличится, но выхлоп будет в самом идеальном случае составлять условных 50%. Это, если те, кто не скрывал, заморочятся прям этой припиской. А они не парятся. Дай бог теори вероятности и бог настроения, чтоб половина этим заморочилась. То есть выхлоп = по саааамым-саааамым оптимистичным прогнозам условных 25% созданного с помощью ИИ контента будет промаркмровано.  

*проценты выработки дофамина и кортизола считать не стала. 

РЕЗЮМЕ: если Вы, Совесть, всю эту математику понимаете, то у меня к Вам вопросов нет. Это Ваше решение. Если не понимаете, то… А что «то»? Да х (это икс!) его знает. Живём дальше. Мне остаётся только надеяться, что мелкая и будущие отец с матерью останутся в чате. За брата-то почему-то не переживаю.

Ну и да, забыла, блин. Тут поделить ещё ж надо было… 50 же условных процентов случаев инструмент ошибся, 50 — нет. Вечер, башка не работает, а костюм со своим ИИ сняла. Я в нем не сплю. Но суть все поняли. Я не хочу терять близких.. 

Знаешь, мне иногда реально охота себе счётчик куда-нить вмонтировать, как в щитке этот в квартире, чтоб потом счета выставлять тем, кто мою энергию потратил, да))) 

А вот это уже к вопросу инструмента «интернет». И втуда расчёты даже с помощью ИИ своего костюма вести не возьмусь ни общие, ни тем более частные. Это то, о чем я и говорила — у нас теперь нет возможности рассчитать последствия своих действий. Даже если я действительно и очень сильно прям задумываюсь и хочу знать, какие мои действия к чему приведут. Нас много физически. Инфраструктура огромна. Интернет. Теперь ИИ. Я не писсемиздю. Это просто факт. Бог хаоса побеждает. Хотя ему пофиг. Он просто есть. А я просто живу. Надеюсь не доживу. 

Уважаемая СтаршаяСестраDenny30, проверять ещё и изображения и музыку — это блестящая идея. :)

Делегирую это Вам, как автору инициативы!

И кстати, а кто Вы? :) 

Уважаемая Совесть, не увидела в Вашем сообщении, чтобы Вы вступили в диалог. Вы о чём-то совершенно своём, минуя смысл моего сообщения. В таком разе… Просто живу дальше. 

Странный вопрос в анонимном чате. Серьёзно? Вы какой ответ рассчитываете получить, кроме «Я уважаемая Вами СтаршаяСестраDenny30» Так же как и Вы «уважаемая мной Совесть». 

Извините, голова болит, поэтому сегодня мои ответы несколько расфокусированы...

Интересный анализ, конечно, спасибо.Но цифры, которые Вы начинаете приводить в разделе «Последствия» — это цифры, которые не выглядят приближенными к реальности.Инструмент несовершенен, но не так, как Вы описываете. Те, кто пишут сами, не будут иметь высоких положительных процентов.А главное, как тут люди объясняли несколько дней в чате, использовать нейросети сегодня — это нормально, это естественно, даже, скорее, стыдно их не использовать. Так что авторам в большинстве своем не будет никакого дела до этих результатов. (И представители группы 3 тоже вряд ли стимулируются писать больше) Я полагаю, все эти результаты, проценты, в итоге будут иметь значение для весьма небольшого, на самом деле, количества человек... 

Про Вашу личность — я, конечно, имел в виду, есть ли у Вас какой-нибудь основной аккаунт, хорошо известный в чате. Не то чтобы я всерьез рассчитывал на ответ, но почему бы и не спросить.

Понимаю. Я сама уже засыпала и вон же даже подписала, что забыла там перед подведением итогов поделить на 2, исходя из условной точности Вашего инструмента 50 на 50. 

Благодарить Вам меня не за что, потому что я делала это для себя. Даже не надеясь особо, что будете вчитываться. Так что, получается, это мне Вас благодарить надо за то, что даже вникли в мой этот анализ. Все всех поблагодарили, а по существу отвечу в посте. Какие-то очень большие у меня комментарии эти получаются. Ну и плюс, я смотрю не только у Вас возник вопрос, кто я. Я поняла буквально его, но Вы расшифровали, и в своём посте я отвечу и на него. 

“Требования маркировать посты о том, что их писал ИИ” © Совесть

XD 

Смотри сюда Совесть:

Алиска из прошлого к тебе обращалась XD

Извините, уважаемая Крыса Взорвиса, я нигде не говорил, что «требую» этого от авторов. Вы привели цитату Алисы. Я такого слова никогда не использовал.

На случай, если я вдруг ошибаюсь, если я просто забыл о случае употребления — пожалуйста, укажите ссылку на соответствующую мою фразу. 

Елена почему у меня сама не спросишь? По старой дружбе Совесть запамятовал что мы с ним давно и хорошо знакомы. 

Извините, но Вы ошибаетесь, мы с Вами не знакомы.

Совесть намекнул что моя версия не интересна так что Елена теряйся в догадках. :)

Совесть читай комент ниже

С картинкой со Сталиным

*на картинке цитата Совести из данного блога. 

«Пожалуй, правы те, кто говорит, что я недооценил травмоопасность своих действий. Недооценил.» ©

Это тоже его цитата из блога. 

* Но я мудак, поэтому я продолжу:

«Резюмирую: поскольку никто ничего маркировать не собирается, я планирую и дальше публиковать результаты проверки текстов чата в сервисе gptzero.» ©

Совесть ты же понимаешь что это твои последние блоги. В твоих викторинах никто больше не будет учавствовать.
Ты обидел не только авторов но и организатора литературного конкурса. 

Совесть, по вашему тексту у меня есть некоторые вопросы и я надеюсь, что вы уделите им внимание. Этими вопросами я стараюсь лучше понять то, чего вы вообще хотите и добиваетесь, обсудить это, быть может этого можно достичь другими методами и т.п.

"Но я считаю, что читатели имеют право знать, как было создано то, что они читают. ... Люди пишут, что несложно добиться ложноотрицательного результата."

Читатели может быть и имеют право это знать. Но вопрос в том, смогут ли они об этом достоверно узнать, предложенным вами методом? Мне кажется, что нет. Те, кто хотят скрыть, что текст сгенерирован ИИ, всё равно это скроют, быстренько изменив его так, что детектор скажет, что это писал человек. Так и сделают, ведь теперь-то знают, что вы проверяете. Ваш инструмент покажет, что это человек и люди этому поверят. Вашему методу нельзя доверять, но тогда зачем это вообще нужно? Это только будет вводить в заблуждение.

"поскольку никто ничего маркировать не собирается, я планирую и дальше публиковать результаты проверки текстов чата в сервисе gptzero"

Ну, некоторые же сразу сказали, что используют в своей работе ИИ и многие их в этом поддержали. Подойдем с другой стороны. Допустим, они начнут маркировать тексты, тогда вы перестанете публиковать результаты проверки? Продолжите это делать, только публиковать не будете, а если результат маркировки не совпадет с проверкой, тогда опубликуете. Правильно я это понимаю?

"Для тех, кому еще не безразлично замещение в творчестве человеческого нейросетевым"

Первое, как было сказано выше, ваш метод не позволяет вам достичь поставленной цели. Если вы считаете, что позволяет, то объясните как, потому как я этого не понимаю. Далее, не всё так просто. Нейросети можно использовать по разному. Можно как признается в комментариях ЕВ, за 10 минут попросить нейронку что-то накатать и выложить это — здесь автор нейросеть и мы увидим ляпы, которым Алиса посвятила целый пост (и мы по факту такие видели в произведении Желанного Якоря). Но можно ведь написать самому, а потом попросить нейронку побыть корректором: где-то орфографию поправить, где-то немного переформулировать предложения, но потом самому внимательно проверить уже нейронку, чтобы она ляпов не наделала. Вы согласны с тем, что это уже совсем другая история? Здесь автор человек, а нейросеть лишь его помощник, такой же как для вас калькулятор. Вы видите в таком использовании что-то постыдное?

"Надеюсь, Patience глубоко разберется в вопросе и расскажет нам, что gptzero может, а что нет"

Вы так часто его упоминаете, что у меня (и думаю, что не только у меня) складывается впечатление, что у вас с ним какая-то вражда и сведение личных счетов. Если настоящая цель всего этого в этом, то не знаю. Мне хочется верить в то, что это не так. Вообще он не должен никому и ничего доказывать. То, что что-то там выдал сервис, тоже доказательством не является. Я с удовольствием читаю его произведения и не находил в них таких ляпов как в том, что делает нейросеть. Написано красиво, сильно, с чувствами и для меня этого достаточно.

❤️

Эдди, спасибо за вопросы.
"Но вопрос в том, смогут ли они об этом достоверно узнать, предложенным вами методом?"
Достоверно — нет. Но частично — да. Я уже только что писал другому человеку, что люди сейчас считают нормой использовать нейросети, так что на практике, я думаю, почти никто и не будет заморачиваться с  ложноотрицательными результатами. И Вы знаете сервис лучше, чем gptzero? Я пока нет. Приходится пользоваться лучшим, что имеется. 
"Допустим, они начнут маркировать тексты, тогда вы перестанете публиковать результаты проверки"
В идеале, если было бы общепринятой нормой сообщать информацию, причем правдивую, в проверках не было бы необходимости. Это как в вопросе с авторством людей. Принято сообщать имя настоящего автора. Но пока что никто ничего маркировать не собирается...
"Нейросети можно использовать по разному"
Поэтому я с самого первого поста и говорю о том, что именно такая информация и должна (в идеальном мире должна...) прикладываться к произведению: как именно нейросеть была использована.

"складывается впечатление, что у вас с ним какая-то вражда и сведение личных счетов"
Нет, что Вы. Patiencа не знаю, никаких личных отношений, обид, претензий и прочего у меня к нему нет. 

Вообще сервисы, подобные gptzero существуют не просто так и находят своё применение. Одна из важных — проверка работ школьников и студентов. Это важный случай, т.к. важно, чтобы ученики именно сами учились и набивали шишки, старались, а не делегировали задачи ИИ. Помню видел видео, где американский преподавалель (профессор, кажется) мешает своих студентов с дерьмом за то, что их работы это чистый ИИ и в голове у них опилки. Такие сервисы, вероятно, могут помочь преподавателям присмотреться внимательнее к некоторым работам.

Но опять же, результат таких сервисов не является никаким доказательством и может вводить людей в заблуждение. Конечные выводы мы должны делать сами. Одна из хороших мыслей Алисы в том, что читатель — это тоже думающее лицо, а не просто потребляющее без всякой критики. Это тоже мозговая деятельность. ИИ может обратить внимание, но думать мы должны сами, своими мозгами, не доверяя решения ИИ. Это важно. 

Также не так давно наблюдал эксперимент. Студентам музыкальных учреждений предложили на слух определить какие музыкальные произведения были созданы ИИ, а какие человеком. Они определили все случаи точно. Те, что были созданы ИИ, в них не было эмоций, не было души. Т.е. в наших силах всё это определять и без всяких инструментов, достаточно лишь подключать свой ум для этого.

Возможно, что по результату всех обсуждений мы придумаем вашим проверочным постам некий дисклеймер, который либо вы сами будете в них вставлять, либо его будет вставлять кто-то в комментариях, например, я. И в этом дисклеймере будет сказано что-то вроде того, что вся приведенная информация является чисто технической, это просто результат работы сервиса, она ничего не доказывает, что это просто мнение сервиса о том, насколько проверяемая проза похожа по некотрым признакам на то, что делают нейросети. Но при этом, по разным причинам, не исключаются ошибки, так что даже 100% Human или 100% AI еще не говорят о том, что текст точно написан человеком или ИИ. Это можно использовать лишь для того, чтобы задать себе этот вопрос и подробнее присмотреться к работе.