За круговертью прочих событий, может быть, не все помнят, что нынешний 2021 год в России объявлен Годом науки и технологий. Между тем, для всех пытливых умом сограждан от мала до велика в городах страны, в том числе и в Твери, в ноябре-декабре проходит совершенно бесплатный фестиваль актуального научного кино. В программе ФАНК 16 авторских картин, в том числе две российские. В этих фильмах не увидишь приключений, разве что приключений духа, которые бывают не менее увлекательными. Фестиваль поддерживают федеральные министерства науки, культуры и просвещения, а также посольства и фонды ряда зарубежных стран.
Палка о двух концах
Обозреватель «МК в Твери» выбрал для просмотра норвежский документальный фильм «iHuman», посвященный искусственному интеллекту (ИИ), который авторы картины определяют как небиологический интеллект. Любопытное совпадение, но в нашем городе эту картину показали 20 ноября, каковая дата в череде международных научно-технических праздников значится как День «Windows». Именно в этот день в 1985 году фирма «Microsoft» начала поставки своей программы в торговые сети. Скоро «Windows» для миллионов людей станет синонимом слова «компьютер», а ее изобретатель Билл Гейтс превратится в самого состоятельного человека планеты.
Это констатируют и создатели фильма «iHuman»: богатейшими и влиятельнейшими людьми в мире становится – да что там, уже стала! – горстка представителей сферы ИТ-технологий. Когда-то, больше века назад, символом богатства был Рокфеллер с его «Стандарт Ойл Компани», а сегодня новая нефть – это данные, это информация. Однако у палки есть два конца, как у медали – оборотная сторона.
Если у двух словах, то примерно половина фильма «iHuman» посвящена увлекательным перспективам развития искусственного интеллекта, а другая половина – его негативным аспектам. Эпиграфом к картине взят один из парадоксальных афоризмов легендарного Стивена Хокинга: «Успех в создании ИИ может быть величайшим событием в человеческой истории. К несчастью, также и последним».
Представители ИТ-индустрии утверждают: ИИ будет либо лучшим, либо худшим, что случится с человечеством. Мы можем использовать его для решения всех величайших проблем сегодняшнего и завтрашнего дня: лечить болезни, бороться с изменением климата, вывести всех из нищеты.
Чтобы быть умным, надо распознавать речь, видео, почерк и т.д., и такие системы сейчас есть в миллионах смартфонов у каждого. Основная цель – это общий ИИ, который сможет научиться улучшать сам алгоритм и способ обучения. Эти системы учатся сами задавать вопросы, а не просто отвечать на те, которые им задают люди.
- Вы должны дать ИИ свободу ставить собственные задачи. Если вы этого не сделаете, он не станет очень умным, - считает один из экспертов. А другой утверждает, что скоро не понадобится ни паспортов, ни удостоверений: личность человека искусственный разум определит по его лицу.
Вплоть до того, что компьютерный алгоритм по чертам лица будет отличать гетеросексуала от гея, выделять либералов и атеистов, преступников и лиц с суицидальными наклонностями. Камера превращает лицо в образец кода, следит, на какой продукт в магазине направлен взгляд. ИИ вычислит, где планируется преступление, и отправит туда наряд полиции. Заглянув человеку в глаза, искусственный разум определит, можно ли ему дать кредит или выпустить из тюрьмы. И это не будущее, это уже – сейчас.
Новая нефть и ментальные уязвимости
В современную эпоху данные – это новая нефть. Данные – это то, как мы себя ведем, как мы говорим, что любим, что делаем каждый день. Компьютерщики разрабатывают алгоритмы глубокого обучения, которые могут научиться определять и предсказывать закономерности в огромных объемах данных.
Если вы зайдете в социальные сети, ИИ сам решит, какие новости вам показать. Если хотите застраховаться, ИИ решает, насколько вы рискованны, а при приеме на работу ИИ-движок просматривает резюме. Такие секреты раскрывают причастные к профессии люди.
В 2012 году компания IBM подсчитала, что в среднем один человек каждый день создает 500 мБ цифровых следов. Если все, что создало человечество лишь за 1 день, распечатать на принтере, высота стопки бумаги составит 4 расстояния от Земли до Солнца. В 2025 мы будем генерировать 62 гБ на человека в день.
- Эти цифровые следы дают компьютерным алгоритмам хорошее представление о том, кто мы такие, что мы делаем и чего хотим, - предупреждает аналитик Михаил Косинский. – Имея достаточно таких данных, можно точно предсказать будущее поведение человека, и можно манипулировать людьми. Политик не сможет понять, что бы хотели услышать от него избиратели, а компьютер способен рассчитать, какие слова будут для них наиболее убедительным.
И действительно, однажды компьютерная программа от IBM взяла за образец манеру поведения опытных политиков и выиграла настоящие политические дебаты.
По утверждению создателей фильма «iHuman», компания «Кембридж Аналитика» тайно собрала данные 50 милионов пользователей «Фейсбука», которые использовала для поиска «ментальных уязвимостей» американских избирателей во время президентских выборов в США. После этого штаб одного из кандидатов понял, на каких струнах играть.
Святой Грааль в компьютерном мире – это создание искусственного разума, который будет все делать лучше человека. Мы, по сути, построили бога, утверждает один из ведущих ученых в команде Илона Маска Илья Сацкевер. Возникает новая форма жизни, которая сделает людей устаревшими. Это произведет революцию, и невероятно важно сделать шаг назад и хорошенько обдумать это.
Есть много общего между технологией и биологической эволюцией. Искусственный интеллект – это компьютерная система, которая может делать то же, что и человек, но лучше. При этом список вещей, которые люди могут делать лучше машин, стремительно сокращается. Люди больше не будут экономически полезными. Тот же эксперт считает, что ИИ решит много проблем человека, но и создаст новые: усугубится проблема фейковых новостей, кибератаки станут более серьезными, а еще у ИИ есть потенциал для создания бесконечно стабильных диктатур. При этом у авторитарного режима будет меньше препятствий для делегирования машине принятия смертоносных решений. Поэтому для ИИ необходимо человеческое регулирование, чтобы предотвратить его использование в качестве оружия.
Вот еще несколько интересных суждений представителей ИТ-сферы:
В «старой школе» ИИ программировали люди, которые понимали, как он работает, но сегодня он программирует сам себя, из-за чего ему действительно трудно доверять.
Изобретение супер-интеллекта – последнее, что нам понадобится изобретать, потому что все остальное он изобретет сам.
Развитие ИИ заставляет еще раз задуматься нас на базовом уровне, что значит быть человеком.
Отношения ИИ с людьми будут напоминать отношения людей с животными. Мы их любим, но когда надо проложить новое шоссе между городами, не спрашиваем разрешения.
Беспилотные такси и роботы-курьеры
Будущее наступило! Так отозвались на вопрос об искусственном интеллекте в комментарии для «МК в Твери» начальник учебно-воспитательного отдела детского технопарка «Кванториум» Ольга Филиппова и наставник направления «IT-квантум» детского технопарка «Кванториум» Даниил Чикмарев:
- Искусственный интеллект давно перерос тесные рамки фантастических романов. Это ведь только в иллюзорном мире ИИ представляется роботом, копирующем поведение человека. Хотя ничто человеческое этому «интеллекту» не чуждо: ИИ может рисовать картину, поддержать разговор, сочинить музыку и даже самого Каспарова в шахматы обыграть!
Развитие систем искусственного интеллекта – одно из основных направлений исследований и разработок в науке. Технологии с использованием ИИ уже стали частью современности: машинное обучение, разумные сенсоры, обработка речи и текста, машинное зрение и распознавание объектов.
Искусственный интеллект практически стал школьным предметом. У нас в технопарке ребята его осваивают наравне с программированием, робототехникой и другими технологиями. Разве что оценки еще не ставят. Развитие ИИ сейчас актуально, ведь современные технологии машинного обучения позволяют научить компьютеры программировать за нас, что ускоряет процесс исчисления сложных задач.
В ближайшие 20-30 лет перейдет в цифровой формат хранение и обработка документов. Упростится процесс идентификации пользователя. Искусственный интеллект сможет не просто распознавать лица, но и определить эмоции пользователя, чтобы быстро принять решение в непривычных или экстренных ситуациях. В будущем люди станут использовать умные устройства (например, бионические протезы) для сохранения и улучшения способностей мозга и тела.
Защита окружающей среды также может стать делом для искусственного интеллекта. Повысится точность прогнозирования погоды или изменения климата в целом.
Если учитывать существующие разработки, то на улицах Твери появятся беспилотные такси и роботы-курьеры. Новшества обязательно затронут школы. Уже сейчас наши кванторианцы участвуют в конкурсе на создание приложения, в котором нейросети распознают рукописный текст. Будут внедрены новые облачные приложения и сервисы, появятся большие массивы данных и активный спрос на интеллектуальных виртуальных помощников.
Продадимся в рабство сами
Лень-матушка – вот истинный двигатель прогресса, а остальное – детали, убежден известный тверской писатель-фантаст Сергей Савинов:
- Боязнь человечества, что искусственный интеллект выйдет на другой уровень и сделает что-то плохое, достаточно стара. На эту тему есть много фантастических книг, фильмов – в первую очередь в голову приходит тот же ставший классикой «Терминатор» или «Матрица».
Чего же боятся люди, и что объединяет эти произведения? То, что искусственный интеллект настолько сам себя осознает, что он либо начинает считать себя выше человека, а человека видит помехой всем остальным видам на Земле, либо он воображает себя неким патроном человечества. Как в том старом фантастическом рассказе, где вышедший из подчинения кухонный робот-домохозяин не дает есть владеющей им семейной паре, считая людей слишком толстыми и понуждая похудеть. То есть налицо бунт машины, которая якобы знает, как надо, лучше человека.
С учетом современных реалий, какая антиутопия может сложиться у нас? Не машины посчитают себя умнее нас и вместо нас станут планировать наши человеческие дела, а, скорее, сам человек охотно подчинится машинам, потому что уж очень хорошо они облегчают жизнь. Тот же самый телефон сегодня – это и фотоаппарат, и видеокамера, и маршрутизатор, и инструмент для оплаты, и все-все-все. И чем дальше, тем будет больше. Двигатель прогресса – это лень, и мы, в конце концов, станем настолько ленивыми, что охотно и добровольно продадимся в рабство машинам.
Три закона – в утиль
А главный редактор портала «Русская Семерка» Василий Ходарев полагает, что искусственный разум способен обнулить и профессию репортера, и классику сайенс-фикшн:
- Дни журналистики в привычном понимании этого слова сочтены. Причем, сочтены они в первую очередь не для потребителей, а для производителей медиаконтента.
Раньше монопольное влияние СМИ на умы и сердца людей было обусловлено доступом к средствам оперативной передачи информации. Потом пришел интернет, и о событии на одном конце планеты становится известно на другом практически в ту же минуту.
Раньше десяток новостников в штате и пара десятков корреспондентов в регионах задавали информационный фон для всей страны. Теперь смартфон в состоянии заменить целую редакцию или телеканал – любой трендсеттер может стать инфлюенсером.
Раньше самую простую творческую работу нужно было дифференцировать на процессы. А теперь появились нейросети, когда достаточно сказать «Хочу» – и результат готов.
За примерами не надо ходить далеко. В недрах студии известного отечественного дизайнера Артемия Лебедева была создана нейросеть «Николай Иронов», которая больше года создавала дизайн-стили – и ни у кого из клиентов не возникло подозрений. Сервисы «Яндекса» позволяют создать выпуск новостей, неотличимый от настоящего: вы пишете текст, а нейросеть превращает его в ведущего или ведущую новостей, которые этот текст зачитают «прямо из студии». Даже и сам текст писать не надо, есть достаточно сервисов, которые по 2-3 ключевым словам напишут его за вас.
И еще. Забудьте про три закона робототехники от Айзека Азимова: весной 2021 года в мире искусственного интеллекта случился практически библейский сюжет. Робот без команды живого оператора убил человека. Произошло это в Ливии, а кибернетическим Каином стал турецкий военный квадрокоптер «Kargu-2».
Забудьте все, что вы читали в фантастике, прогресс не наступает, он уже здесь, и уже давно. От сотворения до первого убийства прошло всего лишь с пару десятков лет. При такой скорости развития через сколько лет или месяцев ждать прихода кибернетического Мессии, найдется ли в электронной библии место человеку и познает ли машинный дух мораль?
* * *
У классиков отечественной фантастики братьев Стругацких упоминаются тагоряне – «цивилизация гипертрофированной предусмотрительности». Они тратят 75% всех ресурсов на изучение возможных вредных последствий новых изобретений и открытий. При этом земляне якобы не способны понять, «насколько это интересно – предотвращать вредные последствия, какую массу интеллектуального и эмоционального наслаждения это дает. Тормозить прогресс также увлекательно, как и творить его, – все зависит от исходной установки и от воспитания».
Написанные четыре десятка лет назад слова становятся жизненно актуальными сегодня. Даже на фоне всеобщего цифрового поветрия нельзя отказывать в праве на существование парадигме сознательного отказа от излишних благ цивилизации. Когда бумажную трудовую книжку предлагают заменить на электронную, следует помнить, что непременно найдутся хакеры, которые попробуют взломать эту систему, и 40 лет вашего трудового стажа превратятся в ничто. Когда вам звонят телефонные мошенники и заявляют, что с вашего банк-онлайн-кабинета пытаются вывести деньги, вы улыбаетесь и спокойно кладете трубку, потому что у вас его никогда не было, как и кабинета на «Госуслугах». Надо просто оставить каждому человеку право самому решать, где он проведет красную черту между цифровой личностью и своей собственной.
Но, несмотря на неоднозначное отношение ученых умов к вопросу развития ИИ, прогресс движется неумолимыми шагами. Причины тут в первую очередь экономические, ведь если какая-то отдельная отрасль или территория откажется от цифровизации, она неизбежно проиграет в конкурентной борьбе как на тактическом, так и стратегическом уровне. Сегодня внедрение новых технологий – залог успешной интеграции в глобальную экономику. Именно поэтому в Тверской области разработана собственная стратегия развития в этом направлении, где отправной точкой является нацпроект «Цифровая экономика». В его структуру входит пять региональных составляющих: «Цифровое государственное управление», «Кадры для цифровой экономики», «Информационная инфраструктура», «Информационная безопасность» и «Цифровые технологии». Названия направлений говорят сами за себя, а ключевыми задачами станут повсеместное внедрение компьтерных алгоритмов и CRM-систем, а также подготовка кадров в сфере IT. К 2030 году регион должен получить «аттестат цифровой зрелости».
- Это более качественный уровень цифровой трансформации в государственном управлении, промышленности, социальной сфере, развитии профильного профессионального образования. Это возможность существенно повысить эффективность системы управления в здравоохранении, в сферах социальной защиты, культуры, спорта, в малом и среднем бизнесе, - подчеркнул губернатор Игорь Руденя на заседании областного правительства, посвященном цифровой «прокачке» региона.
