Проверка на ИИ-генерацию. Дискуссия на пониженных тонах
Думаю, прошло достаточно времени (больше двух месяцев), чтобы данная тема перестала вызывать чрезмерный и разрушительный резонанс.
Постараюсь еще раз сформулировать свою позицию с учетом тех вопросов и критических замечаний, которые были мне высказаны в прошлом.
1. Считаю, что информация о том, является последовательность слов, составляющих художественное произведение, придуманной человеком, или же в ее создании принимала участие нейросеть, должна быть известна читателю. Это моя принципиальная морально-этическая (вопрос авторства), эстетическая (вопрос осознанности транслируемого переживания) и философская (вопрос разграничения человеческого и нечеловеческого) позиция.
2. Некоторые комментаторы моих предыдущих постов по теме ИИ-генерации писали, что моя позиция кажется им направленной против научно-технического прогресса — в том духе, что я предлагаю вернуться к, условно говоря, лошадям и повозкам, тогда как у нас уже есть автомобили. Эта точка зрения в корне неверна. Я не предлагал никому отказаться от использования современных технологий. Напротив, я как раз предлагаю использовать современные технологии — детекторы ИИ-генерации текстов. В этом смысле получается, что, наоборот, против научно-технического прогресса и за возврат к «повозкам» выступают те, кто выступает против использования таких детекторов. Но прогресс не остановить, использование такого рода детекторов и анализаторов становится нормой нашей жизни.
3. Комментаторы неоднократно высказывались о литературных конкурсах в контексте моих постов. Констатирую, что моя инициатива никак с конкурсами не связана, конкурсы — как соревновательные процедуры с определением победителей и призеров — проходят по установленным организаторами правилам, проведение конкурсов и проверка текстов на ИИ-генерацию — это два параллельных и независимых процесса. Я никогда не претендовал на то, чтобы влиять на правила литературных конкурсов в контексте ИИ-генерации, и не высказывался об этом.
[ Мысль немного в сторону, но примерно о том же: некоторые комментаторы неоднократно высказывали предположения, что мои посты об ИИ-генерации вызваны чем-то вроде попыток «контролировать» чат… Я бы задался на месте этих комментаторов вопросом: сколько раз за чуть больше года моего присутствия здесь я кому-нибудь в чате говорил, что ему следует перестать делать то, что он делает, — перестать, например, писать посты, которые он пишет, — и начать делать что-то другое. Или просто высказывал критику участнику чата (не админу :) ) за его действия. Собственно, я сейчас могу вспомнить только два таких случая: ЕВ — за разжигание межнациональной розни, и пользователь с аккаунтами 3136 и 11463 — за большое количество угроз физической расправы в адрес чатовцев. ]
4. Комментаторами моих постов высказывались просьбы ко мне разобрать на конкретном примере, почему gptzero определенные предложения маркирует как AI-generated. Ясно, что я этого не могу сделать, потому что я не знаю, как работает детектор на микроскопическом уровне. Разумеется, такие предложения звучат каждое вполне нормально. Нельзя думать, что нейросети всегда себя выдают, потому что пишут что-то в духе "В худой котомк поклав ржаное хлебо, я ухожу туда, где птичья звон". :)
Кстати, точно так же я не знаю, как работают нейросети в плане генерации текстов. И нейросети, и детекторы нейросетей — это «черный ящик» для нас. Мы подаем что-то на вход, получаем что-то на выходе, но проследить за происходящим внутри не в состоянии.
5. Однако мы можем изучать закономерности, которые наблюдаются на практике для «черных ящиков». Если мы видим, что:
а) черный ящик «детектор» для текстов, про которые заранее известно, что они сгенерированы нейросетями, выдает 100% AI generated (я приводил такие примеры в чате),
б) для текстов, про которые заранее известно, что они написаны людьми, никогда высокие проценты AI не получаются (обратные примеры так и не были в чате до сих пор приведены),
— то отсюда можно сделать определенные индуктивные обобщения о работе детектора.
И подчеркну, что я всегда призывал заинтересованных читателей сделать собственные индуктивные выводы о работе gptzero.me по результатам собственных наблюдений, экспериментов и размышлений.
6. Соответственно, каждый также может сформировать собственное мнение о результатах проверки опубликованных в чате художественных текстов в сервисе gptzero. И важно заметить: чем больше будет высказываний от авторов о деталях использования (или неиспользования) ими нейросетей, тем лучше. Большое спасибо Deepоcean и Lady_Love за подробный рассказ об их опыте использования нейросетей! Если я забыл кого-то еще из авторов упомянуть, кто это сделал, — прошу прощения и прошу напомнить об этих эпизодах.
Мое убеждение заключается в том, что сами результаты проверки текстов в сервисе должны существовать как открытая информация, доступная для всех заинтересованных лиц (и для лиц, ранее не задумывавшихся на эту тему), — как часть общей информационной картины, на основе которой формируется мнение о состоянии дел в плане использования и детектирования ИИ-генерации текстов в сегодняшних реалиях.
Спасибо за внимание!
Я иногда проверяю свою писанину на наличие орфографических и пунктуационных ошибок, это действие тоже подпадает под использование ии и нарушает мое авторство?
Отвечу так: мы прекрасно проверяли орфографию и пунктуацию на компьютере задолго до появления ИИ.
Ну тогда это как залезть в словарик, понял.
Хороший сервис languagetool. Даже советы по стилистике даст
А что Совесть, без меня никак?)
Простите, что не совсем по теме. Просто чистила сейчас заметки и наткнулась на «не изданное»)) А то мои нетленки так и не удостоились проверки, а я может тоже хочу.
Эпиграф:" --Привет, сосед! За рыбкой пошел?-- Неее, за рыбкой пошел!-- Ааа а я думал за рыбкой пошел!" ©
Алиса: Рыба
Совесть: Вот ты говоришь " рыба", а между тем..
Алиса: Где это я говорю «рыба»?
Совесть: вот здесь: " Алиса: Рыба"©
Алиса: Это я сначала сказала «рыба», а потом поправила на «рыба»
Совесть: Так вот о рыбе..
Алиса: Ты сам с собой говоришь
Совесть: Ладно. Так вот о рыбе..
Алиса: Что ты ко мне прицепился со своей рыбой. Ты похож на того, кого один зануда назвал занудой
Совесть: Рыба не моя, ты первая начала о ней..
Алиса: Ты мелкая душонка, я мелкая душонка, я дура и меня никто не понимает, ты дура и тебя никто не понимает, рыба мелкая душонка и дура, которую никто не понимает, рыба мелкая дура..
Совесть: Какие прекрасные у тебя аргументы.
Было бы здорово, если бы Вы писали больше и чаще. :)
Кстати, не видел в чате Ваших произведений.
Да, я тоже за спокойный диалог, за попытку понять друг друга. Объясню свою позицию. Мне не хочется, чтобы кто-либо выкладывал результаты gptzero.me в этом чате без согласия на то авторов, которых «проверяют». Вы пишете про этику, разве это этично не спрашивать разрешения авторов на это? Вот, даже Дэнни со своей игрой в интуицию, он же сперва то, что нагенерил ИИ показывает человеку и уже потом, с его разрешия размещает. Это правильно и этично. Иначе это получается какая-то охота на ведьм.
Второй вопрос, что результат gptzero.me ничего не гарантирует. Т.е. если он показывает, что 100% AI generated, то это вовсе не означает, что автор 100% использовал ИИ в своей работе. Такой случай уже был, неприятный случай, который привел к конфликтам. Разве автору будет приятно такое видеть? Что на него бросают тень? Это не этично.
Каждый здесь делает то, что хочет, это правда. Вы можете делать всё, что угодно и повторно начать выкладывать результаты исследований без согласия на то авторов. Вопрос только зачем? Что и для кого здесь вы планируете доказывать? На неэтичные поступки с вашей стороны может пойти закономерная волна очередного хейта в вашу сторону. Зачем это вам? Я бы предложил не устраивать охоту на ведьм, а просто с уважением и пониманием относиться к другим участникам чата.
Да все проще, отдельные чатчики желают знать, использовал ли автор ИИ, другим же совершенно на это наплевать. Вот тебе и столкновение. Никто никого обязать отчитываться не может, остается только призывать к совести, той, что внутри.
Ну, вот я и пытаюсь призвать к Совести...
Я с удовольствием читала ребят, и потеря сейчас литераторов вызывает досаду
Да, еще и поэтому. Страсти вновь могут закипеть, конфликты разгореться, часть творческих людей покинуть чат. Мне бы этого не хотелось.
Дак уже покинули, в том и дело :(
А я вот в этот раз вообще пока не поняла, что Совесть собирается делать. Пока только говорит о том, чего бы он хотел, в чем убежден и так далее. А хотелось бы узнать, что собирается именно делать. Наверное, нужно уточнить...
Вряд ли это дело касается совести, скорее, дело совести — самому автору указывать использование ИИ в произведениях. А Совесть может взять на себя риски конфликтных ситуаций и публиковать информацию постами.
Не было случая, чтобы 100% ai был не ai, проверяй информацию лучше. Совесть и так упомянул, что этого достичь не удалось еще никому даже намеренно
Совесть, а можно получить от Вас ответы на вопросы некоторые, чтобы не случилось опять «манипуляций фактами». А что в итоге-то? По поводу чего конкретно дискуссия? Напишите, пожалуйста, коротко по одному предложению, какие вопросы Вы вынесли на обсуждение? Я знаю уже, что плохо Вас понимаю, поэтому вот лучше уточню.
Уважаемая СтаршаяСестраDenny30, этот пост — это продолжение дискуссии, которая велась ранее. Цель поста указана в самом начале — сформулировать мою позицию, по поводу которой прозвучало в прошлом оооочень много выдумок, так что кому угодно было бы трудно разобраться, где заканчиваются мои мысли и начинается то, что мне приписывают.
Что я планирую делать? Понятия не имею. Верите ли, я живу сегодняшним днем. Представления не имею, что произойдёт завтра.
Пропустила эту бойню, но согласилась бы с комментаторами — публиковать результаты анализов лучше только с разрешения автора. Это к вопросу об этике.
Спасибо. По поводу первого я думаю, что таки поняла. А вот со вторым опять сложности. Хорошо. Тогда такой вопрос: существует ли вероятность того, что каким-нибудь из завтра Вы сделаете публичным постом проверку на ИИгенерацию текста кого-то из чатлан без его на то согласие? И насколько Вы считаете этичными такие публичные проверки без согласия автора? Уточняю. Не для себя там где-то проверки наедине с самим собой, а именно публичные и без согласия?
Вероятность — существует.
Не считаю на данный момент неэтичным, иначе бы сказал сейчас, что этой вероятности не существует. А Вы в чем видите неэтичность?
Спасибо за ответы.
А я нигде не сказала, что считаю это этичным или неэтичным. Я задала этот вопрос исходя из комментариев рядом. Для какого-то количества людей это важная тема, как видите. Но Вы никак их не откомментили. Вот скопом уж и это прояснила.
Что касается лично меня, то понятие этичности для меня не понятно (пардон за тафталогию) само по себе в принципе. Я вообще это слово ни в своём сознании, ни в речи не использую. Наверное, есть какой-то аналог у меня. Не знаю. Не анализировала. И не представляю, как ответить на Ваш вопрос поэтому. Может быть, если Вы дадите своё определение этичности (не книжное, а своими словами, как Вы её понимаете), я попробую ответить. Но ничего не обещаю. Сами понимаете, настолько разные у нас с Вами типы (или что там) мышления… А если ещё вспомнить, что и желания-то понимать друг друга (не принимать, а понимать, что говорится именно) у нас обоих особого нет, то миссия мне видится практически невыполнимой.
Слушайте, а мне одной кажется, что этические нормы это то, что можно прикладывать только к себе, а не приставать с этим делом к соседу?
Простите, что влезла в разговор без согласия. Но раз влезла, значит считаю этичным.
Если бы ещё знать, что это — этические нормы.
Этические нормы это когда ты от рождения уже виноват в чем то
И, как уже сказала, мне просто нужно было понимание того, что происходит или собирается происходить. Всё.
Можно спросить у ИИ, считает ли он это (анализ работ без согласия) этичным)
Для разговора с Совестью мне это не поможет, но сама идея шикарна) Для «поржать») Тока добавить еще «публично». Ибо для себя лично и в своей личной кухне в своей квартире я могу делать, что хочу, и этого вообще никто не узнает, а значит и вопросов никаких))
Тема эта, написания текста и сочинения сюжета с помощью генерации, исчерпана в прошлое пришествия Совести в чат. Яркое и бескомпромисное было то явление.))
Все или почти все, за редким исключением пишут и сочиняют с ИИ.
Так что спорить не о чём совершенно!
И даже те, кто пишут без ИИ, притворяются и обманывают и ловчат).
Привыкаем жить в цифровой Эре!
Когда вновь, не станет Интернета и Электричества… может кто и научится по старинке из своих Мозгов, добывать Искру литературную.
Имхо, этические нормы это нравственный закон внутри ☕моей чашки. И все свои поступки я соотношу с ним. А если все, что мне не нравится в поведении других людей, я буду называть неэтичным, то не нулевая вероятность того, что доживусь до новостного канала. А не хотелось бы:)
Вот то, о чем я и говорила) А нравственный закон, что такое тогда? Некий личный кодекс правильного и неправильного? Или что? Мы так до бесконечности будем тут философствовать...
Но вообще, подождем Совесть вообще-то, да. Его определение.
Мне кажется, Вы уже все поняли:) но можете и пофилософствовать, а мне пора, лашу мапкой)) 🙌
Или, как справедливо замечено Есличкой ❤️, лапшу палкой 🍜
Аккуратнее с моими афт0rckиmи правами ©
С пиетет0м и риспект0м k ниm, ❤️
Хорошо, когда хоть кому-то кажется, что я что-то поняла (особенно, когда я задаю вопросы уточняющие). Хоть в какой-то параллельной вселенной я всех и всё понимаю)) Но в этой я Вас не поняла. Бегите, конечно. Машу лапкой в ответ)
девочек бить нельзя
и детей
И рыб
И рыбьих детей?
только девочек
Рыбят? Тоже нельзя
а говорили что за 8 битого 1 байтный дают
Любите вот вы паясничать, господа!
Поэтому Алёксандр Неизвестный никогда не шутит.
Чтобы господином не назвали?
Господа все в Париже
придём в пижаме
Битый небитого привезет?
и другого пьяного увезёт
Почему-то приходят на ум неприличная фраза из Юза Алешковского " нам, татарам.." но здесь девочки и дети. И серьезно настроенные рыбы, так что воздержимся
Это «да»?
Не, там смешнее, но оч непристойно
Уважаемый Совесть, спасибо за заботу! Однако, считаю, что тексты авторов чата любой читатель при желании может САМ подвергнуть каким угодно проверкам, даже не читая. Куда полезнее был бы такой аудит в отношении большой литературы и прессы. Как Вам идея?
фФ, ну опять по новой! ИИ в большой литературе и прессе необходимы для редактуры и проверки на плагиат. А здесь при таком маленьком тираже и малом объеме текстов, ИИ используют люди, неуверенные в своем литературном таланте, хватит уже ломать комедию. Ну используют и используют. Ну проверил Совесть и проверил. Обиделись только те, кому не хотелось в этом признаваться, а пришлось или пришлось врать, а это, наверное, неприятно. Ну и все, закрыли тему. Кому мало
графоманскогосамодеятельного творчества,-- велкам на Прозару, там этого добра на рубль ведро.Из своего опыта скажу, что на таких площадках как VC.ru, сетка, Хабр и т.п. появилась проблема в массовой генерации постов с помощью ИИ. Для меня такие посты чаще не несут ценную информацию и не передают личный опыт автора, но заполняют ленту. Я был бы рад, если бы на этих ресурсах появился тег: «вероятнее сгенерирован» или подобный
В нашем чате не наблюдаю массовости в публикации постов и данной проблемы. Я бы считал это прогрессивной практикой, если бы по итогу мы пришли к негласному правилу, чтобы авторы сами указывали использование ИИ в своих постах. Дали бы пример другим площадкам (громко сказано), но были бы одними из первых в этом деле. Если Совести удастся этого достичь, я только за. Из положительных результатов отмечу, что некоторые авторы в чате иногда указывают данный факт, кто-то вообще переосмыслил использование ИИ в своих произведениях