Анализируя все плюсы, минусы и подводные камни искусственного интеллекта, руководитель R&D-направления нашей компании Геннадий Штех собрал полноценный ликбез в издание «Правила жизни».
Почему нейросеть и ИИ — не одно и то же? Как страны применяют ИИ и соревнуются ли в освоении технологии? Почему у России, как обычно, особый путь? В статье ответы на эти и многие другие вопросы.
Ниже приводим текст оригинальной публикации.
Искусственный интеллект как идея возник более полувека назад. Но ни тогда, ни даже десять лет назад открытия в этой области не освещались так широко и не использовались так массово. С развитием технологий в принципе и, конечно, с подачи «бигтехов» вроде Google, Facebook, Amazon и Microsoft воспользоваться ИИ как для развлечения, так и для вполне прикладных задач может буквально каждый, независимо от того, понимает человек, как работает умная машина и что находится у нее под «капотом», или нет.
Как и 100, и 200 лет назад научный прогресс ставит перед человеком сложнейшие вопросы: как изменится жизнь в ближайшее время? Проснется ли он завтра в том же мире, в котором заснул сегодня? И найдет ли себе в нем применение?
Обработка естественного языка (Natural Language Processing, NLP) — область ИИ, связанная с анализом, пониманием и генерацией естественного языка, того, на котором мы говорим. Самые простые примеры — голосовой помощник Siri от Apple или Алиса от «Яндекса». С помощью последних технологий NLP были созданы генеративные языковые модели — та же нейросеть ChatGPT, которая понимает и генерирует текст на уровне человека.
Что государства и бизнес хотят от ИИ?
То, что происходит с рынком ИИ сейчас, трудно назвать мировой «гонкой технологий». За статус драйвера инноваций между собой борются США и Китай. И борьба эта, как известно, обусловлена не только стремлением к технологическим преобразованиям, но и экономическими и геополитическими факторами. Обе страны на государственном уровне инвестируют в исследования и разработку инфраструктуры для ИИ.
Так, правительство Китая еще в 2017 году провозгласило курс на мировое лидерство в ИИ к 2030 году, вкладывая в развитие технологии государственные деньги и привлекая инвестиции от крупного бизнеса. В 2020 году техногигант Tencent, создатель главной соцсети Китая WeChat, сообщил о планах инвестировать в ИИ $70 млрд в течение следующих пяти лет.
США, в свою очередь, как родина группы бигтехов FAANG (Facebook (компания Meta, владеющая соцсетью, признана экстремистской и запрещена в РФ), Amazon, Apple, Netflix и Google), то дышит Китаю в спину, а то и вовсе опережает его, постоянно инвестируя в новые исследования, разработки и стартапы в сфере ИИ. Так, нейросеть ChatGPT, всколыхнувшая буквально весь мир — от научного сообщества до простого обывателя — дело рук американской компании OpenAI.
Сильны позиции на этом поле и у других государств, но они предпочитают оставаться за рамками этой гонки. Япония и Южная Корея довольно давно сфокусировались на конкретных сферах применения ИИ — робототехнике, автономном транспорте, генерации мультимедиаконтента.
В каких отраслях государства применяют ИИ?
Безопасность и оборона. Спектр применения ИИ в этой области довольно обширный: от системы распознавания лиц и дронов для мониторинга территорий до выявления связей между членами преступных группировок и их идентификации. Один из самых известных кейсов — система Palantir Gotham, выявляющая взаимосвязи между различными событиями. Для системы нет незначительных данных, она сопоставляет все факты: где люди арендуют квартиру, на каком автомобиле ездят, в каком банкомате снимают деньги, кому звонят и где совершают покупки. Так, в 2010 году Palantir Gotham помогала армии США собирать информацию о положении боевиков в Афганистане.
Экономика и финансы. Здесь пригодилась способность ИИ быстро и точно обрабатывать большие объемы данных и прогнозировать тренды. Крупнейшие банки доверяют машине анализ финансовых рынков и составление портфелей инвестирования. В 2017 году банк JP Morgan запустил систему COiN, которая анализировала сделки и договоры при помощи машинного обучения, — тогда казалось невероятным, что программа в считаные секунды выполняет задачи, которые у живых людей занимали 360 тыс. часов ежегодно.
Здравоохранение. ИИ способен фактически продлевать людям жизнь, анализируя рентгеновские снимки, маммограммы и подбирая оптимальные схемы лечения на основе анализа огромного количества медицинских данных. Кроме того, ИИ может прогнозировать распространения эпидемий и распределения медицинских ресурсов (например, вакцин). Пандемия коронавируса дала толчок многим ИИ-стартапам в сфере MedTech, а объем инвестиций только в 2021 году вырос на 140% по сравнению с пандемийным 2020 годом.
Транспорт. Здесь ИИ призван, с одной стороны, обеспечить безопасность на дорогах, управляя трафиком и предотвращая аварии, а с другой — помочь компаниям сократить расходы на логистику, оптимизируя маршруты и цепи поставок, а где-то и вовсе меняя методы. Например, компания DHL еще в 2019 году первой запустила доставку дронами, снизив расходы на логистику на 80%.
Климат и экология. ИИ может прогнозировать климатические изменения и оптимизировать использование природных ресурсов. Например, компания Planet Labs использует ИИ и машинное обучение для анализа данных, полученных от спутников, которые непрерывно фотографируют поверхность Земли, что позволяет ученым быстрее и точнее обнаруживать изменения в климатических условиях, а значит, быстрее на них реагировать.
Разумеется, такое объемное явление должно иметь и «темную» сторону. Риски, которые несет масштабирование технологии, можно рассматривать с различных сторон — технологической, экономической, этической и даже психологической
Технологические риски
Системы ИИ не идеальны: в некоторых случаях они могут давать ошибочные рекомендации или делать неверные выводы из-за ошибок в программировании или из-за неполноты данных, что может стоить бизнесу больших денег, а кому-то и жизни. Так, например, в 2018 году в США произошла автокатастрофа с участием автомобиля Tesla Model X, работавшего на автопилоте: причиной аварии стала ошибка в системе распознавания дорожных знаков, которая не определила скоростной режим дороги.
Такие случаи, пусть и без летального исхода, не редкость. Решениям ИИ часто недостает прозрачности: технология может выдавать результат, который либо сложно, либо вовсе невозможно объяснить.
Экономические риски
Монополии, безработица и неравенство — вот три главных социально-экономических контраргумента против ИИ. Разрыв между богатыми и бедными людьми, крупными и мелкими компаниями будет увеличиваться, делая экономику все более поляризованной. Растет и социальное напряжение: потребность в определенных навыках человека снижается, компании оптимизируют расходы.
Так, в конце 2022 года Meta (признана экстремистской и запрещена в РФ) объявила о беспрецедентных для холдинга сокращениях: без работы останутся 11 тыс. сотрудников (13% штата). Похожая ситуация происходит в Twitter, Microsoft, Intel, IBM и других технологических (и не только) компаниях. И хотя с уверенностью сказать, что все эти увольнения происходят из-за ИИ, нельзя, бессмысленно отрицать, что бизнес заинтересован в тотальной оптимизации ресурсов. Например, в ноябре 2022 года стало известно, что Amazon целенаправленно на протяжении нескольких лет создавал ИИ, способный заменить команду рекрутинга. «Живым» сотрудникам техногигант предлагал уволиться по собственному желанию.
Американский банк Goldman Sachs в конце марта этого года опубликовал исследование, по результатам которого допустил полную автоматизацию 25% рабочих мест в Европе и США. Аналитики компании предположили, что генеративный ИИ в ближайшее время сможет заменить юристов, страховых агентов и административный персонал.
Этические риски
В этом блоке вопросов намного больше, чем ответов. Как сохранять конфиденциальность, если системы ИИ ежесекундно учатся на колоссальных объемах данных, в том числе приватных? Как ИИ использует информацию о нас и каким образом получает ее? Кто контролирует контент, который алгоритмы бездушно заучивают? И в конце концов, кто несет ответственность за ошибки ИИ?
На неэтичном поведении «попались» интеллектуальные системы Wells Fargo: американский банк в 2018 году обвинили в использовании ИИ для автоматического распределения кредитных лимитов на основе пола и возраста заемщиков. Кроме того, известны многочисленные случаи дискриминации чернокожих людей в США со стороны «предиктивной полиции»: ошибочные объемы статистических данных, которыми руководствуется ИИ, приводят к незаконному аресту или преследованию людей из-за их расовой принадлежности.
Психологические риски
Категория рисков, о которой говорят меньше всего. Но волноваться здесь есть о чем: специалисты опасаются, что чем больше алгоритмы ИИ входят в нашу жизнь, тем более отчужденными от общества мы становимся и тем меньше доверяем своим способностям и собственному мнению. А как быть с новым поколением, которое выросло с планшетом в руках и чьими интересами руководила сила алгоритма?
Георгиос Петропулос, научный сотрудник Массачусетского технологического и Стэнфордского институтов, в статье «Темная сторона искусственного интеллекта» рассматривает проблему манипуляции человеческим сознанием со стороны крупных брендов при помощи ИИ (яркий пример — обвинения Google во влиянии на результаты поисковой выдачи). По мнению автора, проблему усугубляет непрозрачность работы алгоритмов для простого пользователя: чем меньше он разбирается в том, как ИИ собирает, обрабатывает и использует информацию о нем, тем больше он подвержен подобным манипуляциям.
А что в России?
Как всегда, особый путь. Если говорить про отдельных специалистов, не секрет, что многие ИИ-разработки в таких техногигантах, как Samsung, Huawei, и других сделаны руками российских инженеров и программистов. При этом, несмотря на огромный потенциал в технологий, оборудования и сильных специалистов, в гонке за ИИ Россия как государство не участвует. Наш бизнес мало заинтересован в «интеллектуализационной экспансии» за рубеж, что, впрочем, не мешает ему создавать интересные и уникальные решения для внутреннего рынка.
К примеру, Россия — один из мировых лидеров по цифровизации государственных услуг (в 2022 году Россия вошла в топ-10 стран по индексу зрелости GovTech), в том числе благодаря внедрению ИИ в процессы. Тенденция такова, что всякая бюрократическая работа, не связанная со взаимодействием с людьми, оптимизируется и автоматизируется — далеко не везде в мире о таких вещах думают на государственном уровне.
Разумеется, кризис 2022 года в значительной степени повлиял на то, что государство становится главным заказчиком ИИ-решений, и все же не единственным. Крупный бизнес, особенно ретейл, активно использует технологии Data Science, где ИИ решает различные проблемы: от планирования поставок до прогнозирования спроса в конкретном регионе. Вот почему, «подсев на иглу» умных алгоритмов у себя дома, россиянам так часто бывает некомфортно за рубежом, где нельзя заказать доставку чего бы то ни было и получить это не позже чем через час
ИИ оказался слишком многогранным явлением, чтобы оценивать его однозначно. Потенциал огромен, но и риски — не меньше. Остается наблюдать, как сильные мира сего будут пытаться сохранить баланс между автоматизацией и человечностью и создавать правовую и этическую базу для совместного с машинами будущего.
 (1).jpg )
.jpg )