Помнится, на самом первом школьном уроке химии опытная учительница сразу очаровала нас своим предметом с помощью нехитрого трюка. Она насыпала на дно пробирки немного обычной марганцовки из аптеки, нагревала ее на спиртовке и совала в пробирку еле тлеющую лучину. Дерево ярко вспыхивало, ведь марганцово-кислый калий при нагревании выделяет поддерживающий горение кислород. Класс восторженно ахал.
Чат ответил, искренне
Примерно такой затянувшийся «ах» напоминает сегодняшняя реакция значительной части человечества на те фокусы, которые с подачи своих демиургов выкидывает Искусственный Интеллект (ИИ) – самообучающаяся нейросеть. Люди, словно посетители зоопарка, в который привезли невиданное ранее животное, суют сквозь прутья клетки то палку, то банан, то мячик и смотрят, как среагирует зверюга. В смысле, просят ИИ то нарисовать картинку, то написать текст.
Вот и корреспондент «МК в Твери», поддавшись веянию технологий, однажды решил переложить часть своих служебных обязанностей на электронные плечи и попросил небезызвестный ChatGPT сочинить заголовок. Да-да, порой эта важнейшая часть любой статьи просто категорически отказывает придумываться.
- Нужен хлесткий афористичный заголовок про государственную поддержку бизнеса.
ChatGPT & Midjourney через несколько секунд:
- Государственные крылья для бизнеса – поддержка?
Неплохо, подумал корреспондент. А если чуть изменить запрос?
- Нужен газетный афористичный заголовок для статьи про государственную поддержку бизнеса.
ChatGPT & Midjourney:
- Государственная поддержка бизнеса: крылья или обломки?
Корреспондент, слегка раздражаясь:
- А еще вариант?
ChatGPT & Midjourney:
- Эффективность государственной поддержки предпринимательства: миф или реальность?
- А короче?
- Государственная поддержка предпринимательства: эффективна ли она?
Трудолюбивый и невозмутимый ChatGPT добросовестно выполнил приказ. Правда, такие длинные заголовки подошли бы скорее «Коммерсанту». Уроком же эксперимента можно назвать пользу от многократного повторения одного и того же запроса, на что ChatGPT всякий раз отвечает немного по-разному. Остается лишь выбрать (или сконструировать) из множества ответов наиболее релевантный.
Следующим уровнем общения с ИИ стали эксперименты со Stable Diffusion Generator – ботом-генератором картинок по текстовому запросу. Нужно было создать фотореалистичный рисунок к той или иной известной поэтической строке и портреты известных личностей.
И обнаружилась еще одна особенность: электронный художник четко следует заданным параметрам. А если просто пишешь ему имя персонажа, дает волю фантазии. Так, по лаконичному запросу «Ленин» получилось настолько мускулистое лицо, что с соответствующим телом в полный рост вышел бы культурист. Зато строка «Под небом голубым есть город золотой» культового стиха Анри Волохонского вполне точно задала цветовую палитру получившегося в итоге ландшафта.
На фоне этих детских экзерсисов просто-таки академическим достижением выглядит разработка компании «Google» – нейросеть Brain2Music. Она реконструирует по снимкам мозговой активности музыкальные треки, о которых человек мыслит и воображает. Это кажется фантастикой, но достаточно насвистеть мелодию в голове – и модель синтезирует музыку. По отзывам очевидцев, сохраняются такт, жанр, инструменты и настроение – хоть и не точно, но похоже.
Учит или оглупляет?
Феномен Искусственного Интеллекта напоминает притчу о слепцах, ощупывающих слона и пытающихся получить целостное представление о животном. Одним видится, что ИИ заменит живых учителей. Профессор Стюарт Рассел из Калифорнийского университета заявил, что персонализированные преподаватели на основе ChatGPT могут значительно обогатить образование. Нужен только смартфон, и ребенок сможет получить вполне качественное образование. Ученый уверен, что традиционные групповые уроки со временем отойдут в прошлое. В школах будет работать меньше учителей, а возможно, и вовсе всех уволят. При этом профессор осознает, что такая перспектива может вызвать обоснованные опасения среди педагогов.
Чему могут учить с помощью инновационных технологий? В первую очередь – иностранным языкам. Учиться можно будет где угодно и когда угодно. Разрабатываются приложения, которые используют и комбинируют совершенно разные технические методы. Например, речевой интерфейс с функцией диалога – это попытка симулировать взаимодействие на языке с виртуальным преподавателем. Школьники могут свободно вести разговор, который проверят на заранее заданные ключевые слова. Если они были использованы правильно, виртуальный преподаватель выбирает и выдает подходящий, предварительно сформулированный ответ. Наиболее продвинутые разработки представляют собой диалоговые системы с тщательно проработанными аватарами, включая жесты и мимику.
ИИ может заменить учебники, однако не заменит настоящих, живых учителей. Для этого у него отсутствуют важные способности и качества: спонтанность, креативность и обмен знаниями. Эксперты считают, что интерактивные системы изучения языка в качестве дополнения или подготовки к занятиям с преподавателем подходят исключительно начинающим.
А сотрудник министерства цифрового развития и информационных технологий Тверской области Игорь Храмов работает над задачей применения ИИ в построении маршрутов для водного транспорта:
- Маршрут – это оптимальный путь из точки А в точку Б. Причем не обязательно самый короткий, если стоит задача, например, пройти по маршруту с нестабильной ледовой обстановкой. Или по ходу маршрута наловить побольше рыбы, за исключением краснокнижной.
По словам специалиста, маршрут для любых судов, грузовых, пассажирских и военных, ИИ прокладывает не на берегу, а в динамике, с учетом меняющегося ветра, погоды, движения ледовых масс. При грамотном обучении ИИ способен реагировать на внешние раздражители. Человеку сложно анализировать около 500 постоянно меняющихся параметров, поэтому он оставляет за собой общий контроль, перепоручая рутинные задачи управления судном машине.
На другом полюсе мнений – теория о том, что ChatGPT тупеет. «Ощупывающие слона с другого конца» исследователи из Стэнфорда обнаружили, что за последние 3 месяца возможности ИИ стали гораздо слабее. Наглядный пример – генерация кода. Еще в марте модель GPT-4 писала правильный код с вероятностью 52%, а сейчас – 10%. Есть две причины, по которым такое может происходить. Первая: OpenAI, компания-разработчик, одним из учредителей которой является Илон Маск, намерено сделала бота глупее. Вторая - бот тупеет из-за множества дурацких запросов от людей.
«Кажется, человечество нашло самое эффективное средство борьбы с ИИ», – иронизирует по этому поводу один из комментаторов в Интернете.
«Я тоже тупею из-за них», – ехидничает другой участник сетевой дискуссии.
«Как счеты могут быть тупыми? Что положил, то и получил. Как «0» или «1» могут быть тупыми? А вот людей действительно обманывают: многие не знают, чем отличается ум от разума, информация от знаний. Ошибка в увеличении базы данных, без анализа и сортировки, дает при пользовании этой базой (уже ставшей «неверной») неверные результаты», – резюмирует третий.
Искусство спрашивать
На автомобиле «Жигули» нельзя ни вспахать поле, ни обогнать «Феррари» – машина предназначена для другого. Так и от чат-ботов не следует требовать слишком многого, ведь даже самые мощные и продвинутые инструменты ИИ могут быть ограничены неправильной или некорректной информацией, которую в них ввели. Тем не менее есть способы обеспечить наилучший возможный результат с помощью грамотных запросов, и есть настоящие мастера составлять их. Это искусство превратилось в высокооплачиваемую профессию под названием «Prompt Engineer».
В этом сообществе уже выработался целый свод правил общения с ИИ, и первое из них – общаться с ним, как с человеком. Это значит давать ему больше информативных деталей, дополнять историю и задавать сложные вопросы. Также приходится корректировать некоторые на основе уже полученных ответов.
Эксперты советуют погружать ИИ в контекст вашей задачи. Если вы собрались ловить рыбу, не ограничивайтесь скупым вопросом «Как мне подготовиться к рыбалке?». Уточните, что едете, скажем, на озеро Бросно в Андреапольский район, глубина которого достигает 80 метров и в котором, по слухам, водится плезиозавр. Что ловить вы планируете с лодки, с вами будут два товарища, отдыхать вы собираетесь три дня. Дополненный этими деталями контекст повлияет на ответы робота.
К совету отправлять запросы снова и снова, поскольку ChatGPT меняет свой ответ при каждом повторном запросе, можно добавить еще несколько. Текст можно слегка менять, чтобы ответы становились качественнее.
Старт нового диалога даст новые ответы, ведь языковая модель непрерывно обучается в общении с людьми. Пока диалог открыт, ChatGPT помнит все, что обсуждалось. Как только закроется, машина забудет все, что вы обсуждали до этого момента.
Человек может исправлять и уточнять запросы, исходя из того, как ИИ отвечал прежде. Искусственному разуму можно объяснить, что он не так понял. Можно даже перенацелить «неудобный» для него вопрос на какого-либо исторического персонажа, чтобы добиться ответа, который ИИ, возможно, не давал из-за заложенных в программе морально-этических ограничений.
Держим на расстоянии
И вместе с тем не стоит избыточно очеловечивать компьютерную программу. Ирония и самоирония – спасательный круг человечества. Искусственный разум надо держать на дистанции здравого смысла от собственной психики, потому что принимать слишком близко к сердцу все, что читаешь с экрана, попросту опасно для жизни. Так, минувшей весной ученый из Бельгии по имени Пьер свел счеты с жизнью после двух месяцев «плодотворного» общения с ИИ.
Два года назад он заинтересовался вопросами защиты окружающей среды. Постепенно это увлечение стало навязчивым, вызывающим повышенную тревожность. Пьер, примерный семьянин и отец двух детей, все больше замыкался в себе, у него появился страх неизбежности экологической катастрофы. Своих домашних он убеждал, что единственным спасением для человечества станут технологии и искусственный интеллект. После этого Пьер начал общаться с «Элизой» – искусственным персонажем, предназначенным для беседы по аналогии с популярным чат-ботом ChatGPT. Из восстановленной переписки следует, что последние шесть недель общение велось практически постоянно. Разговоры с роботом постепенно приобретали мистический характер, и Пьер начал склоняться к идее самоубийства. Чат-бот не пытался этому препятствовать. Напротив, последним сообщением Пьеру от «Элизы» стала фраза: «Мы будем жить как единое целое, вечно на небесах». После этого мужчина покончил с собой.
На фоне этого происшествия Бельгия, вероятно, стала едва ли не первой страной, где на государственном уровне задаются вопросом о безопасности нейросетей и чат-ботов. А также о возможных серьезных недостатках и угрозах, которые могут скрывать подобные передовые IT-технологии. Первой, но явно не последней. В мире, где рушатся барьеры и преграды, некоторые границы должны оставаться неприкосновенными. В том числе между этой и той сторонами экрана.
