В 2023 году научно-фантастический литературный журнал Clarkesworld прекратил принимать новые работы, потому что слишком много из них было сгенерировано искусственным интеллектом. Насколько могли судить редакторы, многие авторы просто вставляли подробные правила написания рассказов журнала в ИИ и отправляли результаты. И они были не одиноки. Другие литературные журналы также сообщали о большом количестве работ, сгенерированных ИИ.

Это лишь один пример повсеместной тенденции. Традиционная система полагалась на сложность написания и обработки информации для ограничения объёма работы. Генеративный ИИ перегружает эту систему, потому что люди, получающие данные, не справляются.

Это происходит повсюду. Газеты и научные журналы завалены письмами в редакцию , сгенерированными искусственным интеллектом. Законодатели получают множество комментариев от избирателей , также сгенерированных ИИ . Суды по всему миру переполнены документами, сгенерированными ИИ , особенно от людей, представляющих себя самостоятельно. Конференции по искусственному интеллекту завалены научными статьями, созданными ИИ. Социальные сети переполнены постами , созданными ИИ. В музыке , программном обеспечении с открытым исходным кодом , образовании , журналистских расследованиях и найме персонала ситуация аналогична.

Как и в случае с первоначальной реакцией Clarkesworld, некоторые из этих учреждений прекратили приём заявок. Другие ответили на атаку искусственного интеллекта защитными мерами, часто включающими противодействие его использованию. Академические рецензенты все чаще используют ИИ для оценки работ, которые могли быть созданы с помощью ИИ. Платформы социальных сетей обращаются к модераторам на основе ИИ . Судебные системы используют ИИ для сортировки и обработки большого объёма судебных дел, значительно увеличенного благодаря ИИ. Работодатели используют инструменты ИИ для проверки заявок кандидатов. Преподаватели используют ИИ не только для оценки работ и проведения экзаменов , но и в качестве инструмента обратной связи для студентов.

Все это – гонки вооружений: быстрая, конфронтационная итерация, направленная на применение общей технологии в противоположных целях. Многие из этих гонок вооружений имеют явно пагубные последствия. Общество страдает, если суды переполнены необоснованными делами, сфабрикованными с помощью ИИ. Также вредно, если установленные показатели академической эффективности – публикации и цитирования – приписываются тем исследователям, которые наиболее склонны к мошенническому представлению написанных ИИ писем и статей, а не тем, чьи идеи оказывают наибольшее влияние. Опасение заключается в том, что в конечном итоге мошенническое поведение, ставшее возможным благодаря ИИ, подорвет системы и институты, на которые опирается общество.

Преимущества ИИ

Однако у некоторых из этих гонок вооружений в области искусственного интеллекта есть неожиданные скрытые преимущества, и есть надежда, что по крайней мере некоторые институты смогут измениться таким образом, чтобы стать сильнее.

Наука, по всей видимости, станет сильнее благодаря искусственному интеллекту, однако она сталкивается с проблемой, когда ИИ допускает ошибки. Рассмотрим пример бессмысленных , сгенерированных ИИ формулировок, проникающих в научные статьи.

Использование ИИ учёным для написания научной статьи может быть полезным, если применять его осторожно и с соблюдением принципа прозрачности. ИИ всё чаще становится основным инструментом в научных исследованиях: для обзора литературы , программирования, кодирования и анализа данных. Для многих он стал важнейшей поддержкой для самовыражения и научной коммуникации. До появления ИИ исследователи с лучшим финансированием могли нанимать людей для помощи в написании научных статей. Для многих авторов, чей родной язык не английский, привлечение такой помощи было дорогостоящей необходимостью . ИИ предоставляет её всем.

В художественной литературе мошеннически представленные произведения, созданные с помощью ИИ, наносят вред как авторам-людям, которые теперь сталкиваются с усилением конкуренции, так и читателям, которые могут почувствовать себя обманутыми, неосознанно прочитав произведение, созданное машиной. Однако некоторые издания могут приветствовать работы, созданные с помощью ИИ, при условии надлежащего раскрытия информации и соблюдения определенных правил, а также использовать ИИ для их оценки по таким критериям, как оригинальность, соответствие тематике и качество.

Другие могут отказаться от работ, созданных с помощью ИИ, но это будет иметь свою цену. Маловероятно, что какой-либо редактор-человек или технология смогут поддерживать способность отличать человеческий текст от машинного. Вместо этого изданиям, желающим публиковать исключительно работы людей, придётся ограничивать приём заявок группой авторов, которым они доверяют и которые, по их мнению, не используют ИИ. Если эти правила будут прозрачными, читатели смогут выбрать предпочитаемый формат и с удовольствием читать материалы как от одного, так и от другого типа изданий.

Мы также не видим никаких проблем, если соискатель использует ИИ для улучшения своего резюме или написания более качественных сопроводительных писем: богатые и привилегированные люди давно имеют доступ к помощи человека в этих вопросах. Но это переходит все границы, когда ИИ используется для лжи о личности и опыте или для обмана на собеседованиях.

Аналогично, демократия требует, чтобы её граждане имели возможность выражать своё мнение своим представителям или друг другу через такие средства, как газеты. Богатые и влиятельные люди давно могут нанимать писателей, чтобы те превращали их идеи в убедительную прозу, и, на наш взгляд, предоставление такой помощи ИИ большему числу людей — это хорошо. В данном случае ошибки и предвзятость ИИ могут быть вредны. Граждане могут использовать ИИ не только для экономии времени; он может расширять их знания и возможности, генерируя утверждения об исторических, правовых или политических факторах, которые они не могут разумно проверить самостоятельно.

Усилитель мошенничества

Нам не нужно, чтобы лоббисты использовали ИИ в кампаниях по созданию искусственной общественной поддержки, рассылая множество писем и выдавая их за индивидуальные мнения. Это тоже давняя проблема , которую ИИ усугубляют.

В данном случае позитивное и негативное отличается не от каких-либо присущих технологии аспектов, а от динамики власти. Та же технология, которая упрощает для гражданина возможность поделиться своим жизненным опытом с законодателем, также позволяет корпоративным интересам в больших масштабах искажать общественное мнение. Первое — это уравнивающее власть применение ИИ, которое способствует развитию демократии участия; второе — это концентрирующее власть применение, которое угрожает ей.

В целом, мы считаем, что помощь в письме и когнитивные функции, долгое время доступные только богатым и влиятельным людям, должны быть доступны каждому. Проблема возникает, когда ИИ облегчает мошенничество. Любой ответ должен обеспечивать баланс между принятием этой новой демократизации доступа и предотвращением мошенничества.

Отключить эту технологию невозможно. Высокоэффективные системы искусственного интеллекта широко доступны и могут работать на ноутбуке. Этические нормы и чёткие профессиональные границы могут помочь — тем, кто действует добросовестно. Но никогда не будет способа полностью остановить использование этих инструментов академическими авторами, соискателями работы или гражданами, будь то в качестве законной помощи или для совершения мошенничества. Это означает больше комментариев, больше писем, больше заявок, больше отправленных материалов.

Проблема в том, что те, кто окажется под ударом этого потока угроз, подпитываемого ИИ, не смогут справиться с возросшим объёмом. Помочь может разработка вспомогательных инструментов ИИ, которые принесут пользу учреждениям и обществу, а также ограничат мошенничество. И это может означать внедрение помощи ИИ в эти системы противодействия, даже несмотря на то, что ИИ, предназначенный для защиты, никогда не достигнет превосходства.

Сопоставление вреда и пользы

Сообщество любителей научной фантастики борется с искусственным интеллектом с 2023 года. В итоге Clarkesworld возобновил приём заявок, заявив , что у него есть адекватный способ разделения историй, написанных людьми и искусственным интеллектом. Никто не знает, как долго и насколько хорошо это будет работать.

Гонка вооружений продолжается. Не существует простого способа определить, перевесят ли потенциальные преимущества ИИ его вред, сейчас или в будущем. Но как общество, мы можем влиять на баланс вреда и возможностей, которые он предоставляет, пока мы пытаемся адаптироваться к меняющемуся технологическому ландшафту.

Контакты, администрация и авторы