Ложь под твердой обложкой: как искусственный интеллект уничтожает настоящую литературу
Вызовы нашего времени многокрасочны и хитроумны. Мир будто испытывают на прочность, подкидывая ему задачки одна другой труднее. И вот — новая история. Точнее, уже не такая новая, но внезапно набравшая силу: нас атакуют нейрослопы (от английского слова slop — «помои», «жижа»). Так называют низкокачественный цифровой контент (текст, изображение, аудио или видео), созданный с помощью искусственного интеллекта с минимальным участием человека или без него. С почтением если — нейрослоп. По сути — спам.
Интересное сообщение сразило тут наповал всех интересующихся книжной тематикой. Американская журналистка Кашмир Хилл, пишущая для «Нью-Йорк Таймс» и имеющая статус «технологического журналиста», этим летом совершенно случайно узнала, что ее биография продается на Амазон. Недорого: за 27 долларов.
Старик-разбойник
Прочитав 90-страничный трактат о себе, Хилл в ответ опубликовала статью «Меня облапошили», в которой рассказала, что эта ее «биография» имела «все признаки разгильдяйства искусственного интеллекта» и была «лестной, сфабрикованной и абсолютно изобилующей тире». Ну а говоря по-простому, это был циничный копипаст из открытых источников, приперченный какими-то ничем не подтвержденными домыслами. Автор — некий Джон Крейн Миллер — за неделю выпускал по 10 биографий разных журналистов. Еще раз. За неделю. Десять биографий! Кашмир Хилл — журналистка в США известная, известен и муж ее, Трэвор Тимм. Может быть, поэтому история эта и получила широкую огласку: в Штатах с журналистами связываться не любят. Словом, постепенно выяснилось, что никакого Джона Крейна Миллера не существует, но зато совершенно реально существует предприимчивый пенсионер Билл Джонс, в прошлом — специалист по кибербезопасности, освоивший на пенсии ChatGPT и его поистине безграничные возможности. С его помощью он пополнил каталог Амазона на — внимание! — 445 книг на разные темы. Книги, снабженные портретом автора, продаются с разной степенью интенсивности, но за удачный сезон Джонс продал 800 экземпляров, заработав почти 6000 долларов. Так и вскрылось очевидное, но невероятное: книжный сектор Амазона просто забит нейрослопами. По крайней мере, в каталоге их точно значительно больше, чем литературы «авторской». Нет-нет, рынок реальной литературы еще не сдался, и книги настоящих авторов покупают, но точно так же покупают и творения ИИ. Причем недавно ученые из Мичиганского университета провели специальное исследование и уверяют, что читатели (надо полагать — большинство) не замечают присутствия нейронки! Стоп. Так? Или это начало стирания границ между творчеством реальных авторов и ИИ-поделками?
Что правда, что неправда... Все равно
Какое-то время назад поверить в это было невозможно. Но вот, дожили. Интернет и активно развивающиеся нейросети дали человеку море возможностей. Как он их использует — вопрос. Очаровательная легкость бытия подкупает. И покупает иных с потрохами. Безусловно, чтобы работать с ИИ, нужно освоить массу «вводных», научиться работать предлагаемыми инструментами. В руках талантливого человека, взявшего ИИ в помощники, все может «заиграть», но если новоявленный творец не слишком умен, водруженная на его голову корона вскоре грозит пошатнуться и он сам станет рабом своего «увлечения». Сначала ИИ внушит «гению» мысль о его неповторимости, потом лишит самоиронии — как бывает почти всегда, увы, особенно в случае легких побед. Ну а дальше... Дальше вы и сами все понимаете. Итог подобных «творческих соитий» с ИИ, кончившихся полным и безоговорочным растворением реального автора в недрах сети, очевиден, стоит только открыть интернет и немного по нему «полазить». Однотипные картинки, туповатые, хотя иногда и вполне себе красивые видео, отраженные на них невероятные события (от гигантских волн, качающих невероятные корабли, до миражей в пустыне — причем все подается так, будто это было вчера) хлынули в интернет с такой силой и скоростью, что никакие входные ворота такого напора бы не выдержали. Увы, за этим у одних не стоит ничего, кроме желания «хайпануть», поймать лишние «лайки», а у других — попытки завладеть вниманием аудитории, воздействовать на нее и так далее. Пример буквально 31 августа: в сети появилась картинка — «Почему рухнул Большой Каменный мост в Москве». Даже скрывать не буду: сердце забилось как сумасшедшее, разум отказал — ну как же, какая трагедия, тут вот и электробус в речке валяется... Представьте, и ведь пошла по ссылке! А там — «подпишись на новости...» Тьфу! И мне не стыдно сознаваться в том, что я «повелась» на этот классический «развод». А знаете почему? Потому что у любого, и я уверена в этом, любого из читающих эти строки хоть раз в жизни, но возникало желание ткнуть пальцем на подобную картинку, открыть подобные «последние новости». А уж сколько времени люди тратят на изучение нелепых видео — страшно сказать. Тратят они, потом пересылают килотонны этого словесного или картиночного мусора... В этом адском колесе вертится уже вся планета Земля. И вот недавно знакомая пожилая дама пересылает мне видео бабушки с бегемотом: смотри, мол, какая старушка молодец, завела на старости лет себе друга. «Это моя Булька-Барабулька», — говорит счастливая обладательница животины, на которой она ездит в магазин, ведь это «лучше самокатов». «Булька питается трендами!» — итожит дама, но и это откровение доверчивых «смотрящих» не смутило ни капли. И в грубо сляпанное видео о том, как кролики (или зайчата?) прыгают ночью на батуте, поверили миллионы! Во всяком случае, под подделкой — более 200 миллионов просмотров в соцсетях! Ну и что тут скажешь, кроме того, что мы беспредельно наивные люди... Доступность ИИ-генераторов сделала возможным все. Пора понимать: это край. Нейрослопы уже замусорили интернет, но дело не только в низкопробном контенте. Они распространяют дезинформацию, коверкают правду, и в итоге рядовой пользователь уже не может отличить, где на самом деле истина, а где вымысел. Ну как поверить, что этих двух бабушек-двойняшек, связавших модненькое платьице для внучки, на самом деле никогда не было? ... Маркировка о присутствии ИИ в том или ином «произведении» вводится, но постепенно. И в целом есть ощущение, что своего рода Рубикон перейден и остановить процесс стираний границ между правдой и вымыслом практически невозможно. Ибо в целом процесс пошел дальше, чем ожидалось: в нейросети влюбляются, с ними живут, советуются... Причем то, что нейросеть может в рамках одного разговора выдать диаметрально противоположный совет, остается как бы за кадром. Уже появились слопперы — люди, которые без советов ИИ не могут жить и утрачивают привычку принимать решение самостоятельно. Активнее ведутся и разговоры о том, что интернет превращается в мертвую среду, где нечто живое и искреннее найти крайне трудно.
Вопрос совести
И вот — книги. Написать за вечер подобие «Анны Карениной»? Для ИИ в этом нет особенных проблем. Вы наверняка видели попадающие в топы «жизненные истории», написанные как под копирку и снабженные ИИшными картинками.
Большая беда в том, что в них верят, их читают, полагая, что это и есть литература.
О «книжной составляющей» данной проблемы мы поговорили с Марией Залесской (на фото), главным редактором-директором издательства «Молодая гвардия».
— Мария Кирилловна, издателей обсуждаемая проблема затрагивает в первую очередь. Зачем платить реальному автору, если можно настряпать поделок-подделок сколько хочешь, да и за другие деньги?
— Сколько бы мы ни обсуждали эту тему, разговор все равно сведется к тому, что в основе основ данной проблемы лежит вопрос о совести. В ситуации с биографией американской журналистки — этого товарища, который «создал», с позволения сказать, более четырехсот книг. Наверное, публично он выступает как автор, но себя-то не обманешь.
— Но он прикрылся псевдонимом и вряд ли думает о чем-то, кроме денег.
— Да понятно, что тут не идет речи ни о каком творчестве, поиске новых материалов и так далее… Но скажу так: главная наша проблема, если мы говорим о нейронке, на данный момент напрямую связана с принятием или непринятием закона об авторском праве, который, если я не ошибаюсь, рассматривался уже раза три. Пока у нас авторское право не отработано абсолютно, в нем сам черт ногу сломит — сами юристы признают, что сегодня выигрывает дела тот, у кого более ушлый адвокат. Обсуждаемый ныне закон вызывает острейшие схватки. «Рубятся» люди по поводу того, можно ли брать для обучения нейросетей любые тексты, невзирая ни на какое авторское право и не выплачивая никакие дивиденды. С моей точки зрения, если этот закон будет принят, это — конец: авторов это убьет, а таким вот «товарищам», о которых вы говорили, включится «зеленый свет». После этого никто не запретит таким людям брать тексты условного Варламова или Прилепина из сети и выдавать потом за свои.
— Но мы же таким образом собственными руками копаем себе могилу…
— Конечно. И ведь в чем цинизм ситуации: с одной стороны, мы говорим о том, что нужно поднимать уровень образования, а с другой на телевидении идет реклама с таким вот сюжетом. Компания малолетних мальчишек убегает куда-то, явно развлекаться, и один из них бросает просьбу нейросети: сравни мне, мол, биографии Маяковского, Ахматовой и Есенина или кого-то там еще, не суть. А следующий кадр: сообщение, гигачат: «Я сдал все автоматом». Это чему мы учим молодых? Тому, что можно вот так — не прикладывая никаких усилий, в моменте обрести все желаемое? Пусть нейронка поскрипит за нас, а мы завалимся на диван, играя в компьютерные игрушки? Да все что угодно, только бы не работать! На это и настраивают молодежь, в том числе и такими вот рекламными роликами. Но этого мало. Известно, что некоторые авторы получают литературные премии, даже не скрывая, что их произведения были написаны при помощи нейросети… Все прозрачно, никакого обмана — карты на стол, как говорится! Ну и чему мы тогда удивляемся? Мы открыли ящик Пандоры, и его уже не закрыть. Мы теперь уже не можем ни отмахнуться от нейросетей, ни запретить их.
— Но все это развивается так лавинообразно и с такой скоростью, что мы не успеваем оценивать последствия…
— Да, а начиналось все это значительно раньше — с того, что определенная категория, с позволения сказать, «авторов» сдавала рукописи в издательство, ленясь даже убирать гиперссылки из интернета, бессовестно выдавая скопированные тексты за свои. И у них не было сомнений — писать имя автора или нет, писали! Лет пять прошло — и стало все еще проще: все за тебя, при желании, напишет нейросеть. Буду честна: ой, не знаю, а можно ли это регулировать на государственном уровне… И поэтому опять возвращаюсь к совести автора, хотя и понимаю, что это нечто эфемерное в нашем циничном мире. Мне и правда непонятно, как можно спокойно спать, если ты, грубо говоря, спер все у других, а теперь на обложке твое имя.
— Это путь в никуда, Мария Кирилловна?
— Безусловно. Сначала мы потеряли Школу, когда люди понимали, как можно писать и как нельзя. Когда был вкус к художественному слову. А теперь?.. Самый простой пример: очень часто приходится читать текст, где герой вместо имени или какой-то индивидуальной характеристики определяется исключительно по половым признакам: «женщина сказала», «мужчина пришел» и так далее.… Это дурной тон! Вкус к художественному слову стремительно уходит. А мы тем временем дали себе право копипастить из интернета, не неся за это ответственности. Следующий шаг делается на наших глазах: это книга, написанная нейросетью. Увы, но выходит так, что при развитии искусственного интеллекта деградирует интеллект естественный. Мы забываем, что голову тоже надо тренировать, иначе «эта мышца» просто одряхлеет и отомрет за ненадобностью.
— Вы ощущаете в происходящем угрозу вашей издательской деятельности?
— В целом да. Но обязательно будут исключения. Скажем, ту же серию ЖЗЛ может спасти то, что мы упорно делаем ставку на оригинальность и новизну подачи материалов, открытия новых, неизвестных ранее фактов, развенчание мифов — это то, что может быть противопоставлено текстам, созданным ИИ, который «обучается» на основе давно известной и не раз уже переваренной информации. Печально, что сегодня молодежь скорее поверит интернету, чем книге. Никогда не забуду, как в прямом радиоэфире мы говорили на исторические темы, и тут позвонил слушатель, который сказал нижеследующее: «Да что вы тут «трете», википедия говорит совсем о другом».
— Да, у нас уже целое поколение есть, для которого википедия — бог.
— Человечество не учится на своих ошибках и почему-то все, что придумывает себе во благо, выворачивает затем наизнанку. Когда мне говорят, что вы все равно не отличите написанное ИИ от написанного человеком, я не заявляю самонадеянно, что отличу, хотя делала это не раз и довольно успешно. Но любое творчество — а написание в том числе исторической книги — это душевная работа — предполагает обмен энергиями, пусть это и метафизическое понятие. Трудозатраты души писателя обмениваются с трудозатратами души читателя, в этом и заложены великие смыслы. Если взаимообмена нет, значит, читателя кормят пустышкой. Такой горе-автор может «написать» сколько угодно книг, но все это будет ни о чем. В итоге все вновь упирается в творческую совесть. Если ты за вечер сгенерировал книгу на 30 авторских листов — грош тебе цена… Но больно по-настоящему от того, что все происходящее низводит профессию писателя до уровня, простите, ниже плинтуса. И мы это делаем сами...
...Если честно — это тот случай, когда в конце текста может быть поставлен только один знак — многоточие...
Но что-то делать с этим нужно, ибо... Обратимся просто к цифрам. По информации на июль 2026 года, число произведений, сгенерированных искусственным интеллектом (ИИ), по итогам 2025 года выросло на 70 процентов, а рыночный объем сегмента оценивается в 8,6 миллиарда рублей. Аналитики предполагают, что к концу 2026 года этот показатель может вырасти до 10 миллиардов.
В ТЕМУ
Есть некоторые признаки, которые могут помочь вам распознать нейрослоп. Итак, если в начале и конце текста используются шаблоны вроде «В мире, где…», «В заключение хотелось бы отметить…», то это нехороший признак. Вас должно напрячь использование канцелярита, избыток клише и банальных, затасканных эпитетов. Текст от ИИ — ровный, в нем почти всегда используются абзацы одной длины, часто построенные по схеме тезис — пример — вывод. Вы также без труда определите однотипность описания событий, будто созданных по четкому плану, увидите изобилие логических и смысловых противоречий. Что важно понимать: ни один из перечисленных признаков сам по себе не является доказательством того, что текст был сгенерирован нейросетью. Но если вы столкнулись с целым набором таких черт текста, отнеситесь к нему максимально критично.
КСТАТИ
В целом по опросам и традиционные авторы книг, и читатели относятся к нейрослопу негативно. На некоторых площадках уже введена обязательная маркировка AI-контента, если же есть подозрение на генерацию при отсутствии маркировки, могут быть применены меры — вплоть до изъятия книги из доступа. В США на книжном сервисе Goodreads существуют постоянно обновляемые списки книг, созданные ИИ. Кстати, упомянутый в тексте Билл Джонс — не исключение, хотя и рекордсмен. Писатель-фантаст Тим Баучер примерно за год создал почти 100 произведений с помощью ИИ.