В последние несколько лет в нашу жизнь стремительно ворвались нейросети: мы пишем с их помощью тексты, создаем иллюстрации, дизайны, советуемся с ними по любому поводу. Кто-то уже променял своего психолога на нейросеть, отдельные компании теперь принимают решения об увольнении сотрудников, основываясь на показаниях искусственного интеллекта (ИИ). Мы поговорили с разработчиком ИИ и с философом, чтобы понять, куда нас может завести такое доверие к искусственному интеллекту и нужно ли с этим что-то делать.
Наши спикеры:
Евгений Николаевич Павловский, заведующий лабораторией аналитики потоковых данных и машинного обучения Новосибирского государственного университета, кандидат физико-математических наук;
Алина Сергеевна Зайкова, научный сотрудник Института философии и права СО РАН, кандидат философских наук.
— Заберут ли нейросети нашу работу? Насколько они способны изменить или даже заместить наш интеллектуальный труд?
Е.П.: Уже забрали, частично, но общество к этому адаптируется. Сейчас как раз идет этот процесс адаптации: что-то мы уже выполняем с помощью нейросетей, что-то — сами, и это не всегда легко отличить. Допустим, у нас студенты часть работы по проектам уже делают с помощью ИИ. Недостаток в том, что они не до конца понимают, что в проекте на самом деле происходит. Поэтому для подрастающего поколения повсеместное использование ИИ может быть фатально: во время учебы они не нарабатывают нужные навыки.
Те, кто постарше, кто уже сформировал компетенции, сейчас испытывают легкий трепет по поводу ИИ. Например, нейросети уже забрали часть работы дизайнеров. Неизбежно новые технологии убирают какие-то профессии. Другое дело, что искусственный интеллект это делает довольно быстро, общество может не успеть так быстро перестроиться. В свое время появление электричества вытеснило некоторые области труда, переформатировало целые производства, но на это ушло около 40 лет. С ИИ происходит то же самое, но стремительно. Однако, опять же, когда появились кино и телевидение, все били тревогу, что мы потеряем театр, но театр никуда не делся, просто занял свою нишу, возможно, так будет и с некоторыми другими сферами.
А.З.: Любые технологии встраиваются в какую-то нишу. Когда появился фотоаппарат, художники переживали, что у них не будет работы. Художники до сих пор существуют, однако область их работы немного изменилась, например стали менее популярными портретисты, потому что функцию фиксации внешности взяли на себя фотографии. Думаю, примерно так же будет и с нейросетями: они займут какую-то нишу и, возможно, людей в этой области станет меньше. Сейчас ИИ часто выступает в роли джуниоров — писателей, сценаристов, программистов, дизайнеров и так далее. Вероятно, спрос на начинающих специалистов в этих сферах немного спадет. Однако заменить опытных профессионалов нейросети не смогут, скорее, просто станут инструментом для них. Если компании престанут выращивать себе сотрудников, у них не будет подходящих кадров для развития. К тому же нейросети нужен оператор: редко она с первого раза дает то, что нужно. Менеджеру проще поставить задачу человеку, чтобы он подобрал правильный промпт (запрос) для ИИ. Вполне возможно, что новичкам вдобавок к профессиональным знаниям придется приобретать компетенции оператора ИИ.
— По каким признакам сегодня можно вычислить, что текст создан нейросетью, а не человеком? Есть ли подобные признаки для кода?
Е.П.: Эти признаки быстро меняются. Например, сейчас это иконки в тексте — всевозможные эмоджи и галочки, — если их много, это может указывать на нейросеть, поскольку компьютер не видит большого различия между ними и обычными буквами. Второй признак — чрезвычайная грамотность текста: знаки препинания, речевые обороты, длинные тире, типографские неразрывные пробелы перед предлогами. Писать грамотно социально приемлемо, поэтому люди не всегда догадываются попросить нейросеть добавить в текст ошибок. Также, говорят, есть такой признак, как водянистый текст, но этот признак ненадежный. При ответах на отдельные вопросы меня вполне устраивает глубина генерации, создается впечатление, что говоришь с человеком, который как минимум книжки по теме прочитал.
Если же говорить про код, то там те же признаки, что и в тексте: в нем также прописываются все эти смайлики, символы. Обычно я просто задаю студентам вопрос: что делает вот эта строка, зачем она здесь? Если ребята могут это объяснить, то всё в порядке, даже если код написан с использованием нейросети.
А.З.: Генерации ИИ уже пытаются отслеживать в разных сферах. Например, в «Антиплагиате» есть блок, который пытается обнаружить сгенерированные тексты. В декабре я проверяла таким образом 120 эссе студентов. Примерно четверть из них оказались написаны с помощью нейросетей, это было откровенно видно, и программа пометила их как сгенерированные. Еще несколько были явно созданы ИИ, но обошли «Антиплагиат». Некоторые другие эссе сервис посчитал сгенерированными, но, на мой взгляд, это были тексты, написанные самими студентами.
Для нейросети характерна специфическая постановка фраз. Она всегда структурирует информацию и при этом не особо обращает внимание на смысл, а иногда может и вовсе заменить его на противоположный (например, пропустив частицу «не»). Есть такая альтернатива тесту Тьюринга — схема Винограда (названа в честь исследователя языка Терри Винограда. — Прим. ред.), когда пользователю даются предложения, где возможны разночтения. Допустим, «Папа не смог поднять ребенка, потому что он слишком тяжелый». Кто тяжелый: папа или ребенок? Для нас это очевидно, а для ИИ нет. Для него эти объекты равнозначны и обладают одинаковыми характеристиками.
Еще есть такая проблема (особенно она актуальна для студентов), что люди привыкают писать так, как они читают. Если человек потребляет много контента, созданного нейросетями, его статьи начинают походить на сгенерированные. Лучший способ этого избежать — читать тексты, написанные людьми. И, конечно же, важно думать про смысл, потому что большая часть того, что пишут нейросети, — это «вода».
— Нужно ли какое-то правовое урегулирование использования ИИ, например обязательная пометка о том, что текст создан с использованием ИИ? Надо ли прописывать какие-то ограничения в сами нейросети?
А.З.: Результат работ нейросети — это всегда продукт союза ИИ и автора, который написал промт. Без запроса нейросеть ничего не сделает. Таким образом, основная ответственность должна быть именно на авторе: он обязан и проверить информацию, и при необходимости отредактировать текст. Вопрос, следует ли помечать тексты, созданные с использованием ИИ, зависит от объема сгенерированного. Если человек сформулировал с помощью нейросети какое-то одно предложение или попросил ее придумать название для своей статьи, думаю, что нет. В случае же серьезных изменений, как мне кажется, участие ИИ важно обозначать.
Если же говорить про запрограммированные ограничения, важно учитывать, как используется та или иная нейросеть. Например, в домашних колонках, задать вопрос которым могут и дети, какие-то границы нужны. Когда же речь идет об индивидуальных системах (в сторону которых, на мой взгляд, будет идти развитие нейросетей), здесь всё иначе. Конечно, ИИ не должен никого склонять к суициду или рассказывать, как сделать взрывчатое вещество, но в других вещах, я думаю, ограничения могут быть излишни.
Е.П.: У меня есть две мысли на этот счет. Во-первых, когда люди говорят, что нужно помечать текст, сгенерированный нейросетью, они не учитывают, что это очень сложно проверить. Нет никакого технического способа гарантированно подтвердить: да, здесь была генерация. И если на картинке нейросеть еще может сделать какие-то неразличимые водяные знаки, а в аудио — сочетания звуков, то создать такие обозначения в тексте сложнее всего. К тому же необходимо, чтобы сами производители нейросетей были заинтересованы помечать сгенерированный контент. Пока этого не происходит. На мой взгляд, к сожалению, должна случиться какая-то катастрофа (например, выход из-под контроля автономного ИИ-оружия), чтобы человечество наконец всерьез задумалось о таком регулировании. Очень сложно внедрять регулятивные меры для технологии, которая легко копируется и воспроизводится, трудно наладить контроль. Если появятся законы, заставляющие людей обозначать генерации, будет найдено и какое-то решение.
Вторая моя мысль очень простая: можно, наоборот, помечать несгенерированные тексты. Если вы напишите: «Текст был создан без использования нейросети», — это будет, во-первых, честно по отношению к самому себе (если вы соврали, то это на вашей совести), а во-вторых, — сигналом для окружающих. Возможно, в перспективе, лет через пять, такая подпись станет своеобразным знаком качества. Я взываю именно к этому второму способу, поскольку он не перекладывает ответственность на разработчика, а воспитывает в нас что-то человеческое.
— Как сегодня изменится интернет из-за развития и массовой доступности ИИ? Может ли случиться так, что многочисленные генерации вытеснят из него человека?
А.З.: Здесь, опять же, важно сказать о том, что любая генерация — это результат работы нейросети и человека, который с ней общается. На мой взгляд, нас ждет не интернет без человека, а интернет людей, которые используют сгенерированные материалы. Конечно, с развитием нейросетей текстов, созданных ИИ, будет больше, и отличать их от написанного людьми будет всё сложнее, но при этом он сам станет лучше. Поэтому я не думаю, что обилие генераций в интернете — это страшно. Чем отличается интересная история, написанная нейросетью, от интересной истории, придуманной человеком? Для всех нас это вызов для создания более качественных текстов.
Е.П.: Обилие генераций снижает уровень доверия к контенту в сети — это в целом полезно. Я думаю, что мы не должны слишком доверять интернету. К тому же существует следующий технический момент: нам не видно около 90 % контента в интернете. Это всевозможные мусорные сайты, почты, потоки сгенерированных текстов и так далее. Нас от них защищают технологии, в частности антивирусы, фильтры поисковиков. Раньше много бессмысленного контента создавали сами люди, например компании, которые занимались SEО-оптимизацией. С появлением нейросетей его стало еще больше, но, значит, экономика тоже подтянется, появятся технологии, которые смогут отфильтровывать и это.
Всё зависит еще и от того, будут ли люди потреблять сгенерированный контент или в какой-то момент пресытятся им, потребуют что-нибудь помощнее? Мне кажется, переход будет цикличным, возможно, мы даже вернемся к библиотекам. Это будет покупка спокойствия. Мы слишком перераздражены, слишком много энергии уходит на потребление контента, и рождается запрос на инфодетокс: уехать куда-нибудь на Алтай, оторваться, выключиться. Должно появиться некое пространство, которое позволяет это делать культурно. Библиотека — очень хороший пример такого пространства. У вас есть доступ ко многим источникам, почти как в интернете, но никто не перебивает, нет вот этого постоянного «пам-пам-пам». Ресурсное состояние мозга сконцентрировано, и есть возможность прорастить другие нейроны, не те, которые на поверхности.
— Что такое зима искусственного интеллекта и почему ученые ее предрекают?
Е.П.: Несколько десятилетий назад уже была зима искусственного интеллекта, когда Япония вложила слишком много денег в производство компьютеров пятого поколения, и это не выстрелило, не хватило мощностей. Когда придет следующая зима непонятно, пока не видно, чтобы возможности ИИ исчерпались. Говорят, что на смену нынешнему придет сильный искусственный интеллект, который сможет самостоятельно разбивать цель на подзадачи, совершать автономные действия и извлекать из этого опыт. Многие государства уже готовятся к массовому регулированию такого ИИ. Сам по себе ИИ не имеет воли, но он является инструментом в руках определенных людей, которые через него могут попытаться осуществлять влияние на те или иные области.
Если же говорить про страхи, что искусственный интеллект захватит мир, мне кажется, даже если воля ИИ где-то в лабораториях возникнет как некая модель, выпустить далеко ее не смогут: слишком много нужно сконцентрировать ресурсов, чтобы ИИ начал производить действия масштаба всей Земли или даже одной страны. К тому же он сильно зависит от электричества, которое можно быстро отключить. Возможно, нам вообще не будет хватать электроэнергии на повсеместное использование ИИ, — придется выбирать: или включить кондиционер, чтобы комфортно было в помещении, или дать больше электричества нейросети.
А.З.: Словосочетание «зима искусственного интеллекта» появилось лет 50 назад, когда на одной из конференций исследователи говорили, что нас она ожидает, по аналогии с ядерной зимой. Предполагалось развитие цепной реакции: пессимизм в сообществе ИИ повлечет за собою пессимизм в прессе, за которым последует резкое сокращение финансирования, и это приведет к прекращению серьезных исследований, а ведущие исследователи в области ИИ потеряют работу и «станут таксистами». Вообще, это стандартная история для любой новой технологии: сначала инвесторы вдохновлены открывшимися возможностями и накачивают отрасль большим количеством финансов. Когда ожидания не оправдываются (потому что развитие любой области зависит не только от финансов), к технологии теряют интерес и обрубают ее финансирование.
За время существования ИИ у нас уже было несколько зим искусственного интеллекта, и начиная с 2000-х годов говорят, что вот-вот будет еще одна. Почему это не так? Во-первых, на текущий момент область искусственного интеллекта неоднородная, в ней есть различные технологии и архитектуры. Даже если какая-то одна из них окажется непродуктивной, на остальных это необязательно отразится. Во-вторых, если раньше источником финансирования таких технологий были правительства, сейчас это коммерческие компании. Когда-то один эксперт мог сказать правительству: «Вы знаете, эта область не удалась», и это имело последствия. Например, так было с отчетом Лайтхилла (документ, подготовленный в 1973 году британским прикладным математиком Джеймсом Лайтхиллом, где были даны крайне пессимистичные прогнозы для основных направлений исследований в области ИИ), который привел к одной из зим искусственного интеллекта. Сейчас, каким бы авторитетным ни был эксперт, будь это хоть Билл Гейтс или Илон Маск, пока технологии приносят прибыль, никто его не послушает. Поэтому торможение развития каких-то отдельных направлений возможно, но зима всего ИИ — нет.
— В начале XX века жизнь людей стал менять технический прогресс, потом — появление и стремительное развитие интернета. Станут ли нейросети тем, что совершит в нашем образе жизни новую революцию?
А.З.: Несмотря на то, что сейчас мы можем многое делать с помощью нейросетей: писать и корректировать тексты, создавать иллюстрации и так далее, я не могу сказать, что это именно революция. За последние 50 лет изменений было так много, что они становятся почти постоянными: всё время что-то меняется и появляется что-то новое. Рожденные в 1980-х, 1990-х и позже уже почти привыкли к стремительным изменениям техники и связанным с ними социальным изменениям. Поменялась ли существенно наша жизнь? Я думаю, что нет. Просто раньше мы шли за информацией в библиотеки, чуть позже — в поисковики, а теперь — в нейросеть, которая уже сама обращается к поисковикам при необходимости. Конечно, возникают вопросы к качеству этой информации. Здесь многое зависит от навыков пользователя, допустим от того, как он умеет составлять промпт. Сейчас уже есть отдельные учебники и курсы по промптингу, скорее всего, их станет больше, и в большинстве образовательных программ появятся курсы по взаимодействию с нейросетями в нужной предметной области.
Е.П.: Думаю, что да, станут. Они уже меняют нашу жизнь. Удивительно, что это началось со сферы образования. Насколько кардинальными будут эти изменения? Чтобы понять, нужно подождать еще год-два, посмотреть, что будет происходить, но по мощности воздействия на общество я сравниваю развитие нейросетей с появлением электричества. Совершенно точно искусственный интеллект — это усилитель производительности труда. Возможно, он приблизит тот самый коммунизм, в том смысле, что очень много благ будет производиться гораздо меньшим количеством людей.
— Но ведь сегодня тенденции как будто бы другие. В прошлом люди представляли, что роботы будут делать физическую работу, а у человека останется больше времени на творчество. Однако появились нейросети и стали вместо нас писать тексты и рисовать картины, а люди продолжают заниматься физическим трудом.
Е.П.: Да, отчасти сейчас мы отдаем интеллектуальную работу нейросетям, потому что она энергозатратна, а сами делаем, что попроще. Творчество — это совсем не проще. Если посмотреть на творцов, которых мы любим цитировать, тех же Александра Сергеевича Пушкина, Льва Николаевича Толстого, — это почти всегда люди со сложной судьбой, которые пропускали всё через себя. Попивая чаек в комфортной обстановке, творить не хочется. Поэтому у меня давно уже есть сомнения, что творчество с использованием ИИ будет востребовано, люди уже от этого устают.
Интернет как инструмент замены общения достигает предела искусственности, и здесь встает выбор: либо человек полностью отказывается от своей самобытности, уходит как субъект и вместо него появляется набор сервисов, который прекрасно модерируется, либо он говорит: «Конечно, ИИ может всё сделать за меня, но мне важно, как я живу, как продумываю, как прочувствую свою жизнь, рефлексирую, анализирую свой опыт». ИИ — это море, которое затягивает, и, мне кажется, выплывут не все. Но надо стараться, возможно, еще сильнее, быть и оставаться человеком.
Подготовила Диана Хомякова
Фото автора, предоставлено исследователями и сгенерировано с помощью нейросети «Шедеврум»
