«Чтобы начать бояться искусственного интеллекта, надо решить ряд задач»
В этом году одним из наиболее часто упоминаемых понятий стал искусственный интеллект. Кто-то благодаря ему прогнозирует рывок в развитии экономики, кто-то пророчит неминуемые проблемы для человечества, к которым приведет развитие ИИ. Business Guide обратился к читателям с вопросом: «А вы боитесь искусственного интеллекта?»
Александр Дрозденко, губернатор Ленинградской области:
— Искусственный интеллект пока что оперирует контентом, который создают люди. Поэтому, если в интернете на тот или иной счет содержатся верные сведения, то и искусственный интеллект выдает в целом правильные обобщения. Но если начинают преобладать фальшивки, здесь может таиться опасность.
К примеру, пока никто не оспаривает, что Рюрик и Олег в 862 году пришли в Старую Ладогу и оттуда пошла династия Рюриковичей, но искусственный интеллект уже спорит, кто на самом деле был Рюрик. Все зависит от того, какими сведениями из интернета он оперирует. Поэтому очень важно, чтобы контент в интернете содержал верные сведения, чтобы там не было фальсификаций. И это уже зависит от нас.
Игорь Кузьмин, генеральный директор ПАО «Россети Ленэнерго»:
— Энергетика — перспективная область применения ИИ. В частности, в управлении энергосистемами за счет использования алгоритмов машинного обучения ИИ способен анализировать данные о потреблении и производстве электроэнергии, предсказывать возможные пиковые нагрузки на сеть, а также принимать решения об оптимальном распределении электроэнергии для максимальной эффективности. ИИ в перспективе сможет осуществлять управление электрической сетью, решая в том числе задачи снижения потерь и ликвидации технологических нарушений, что в итоге позитивно скажется на конечном потребителе: снизятся затраты на транспорт электроэнергии, сократится время перерывов электроснабжения потребителей.
Станислав Казарин, вице-губернатор Санкт-Петербурга по информатизации и связи:
— Нет, я лично не боюсь искусственного интеллекта. Можно сравнить сегодняшний этап развития технологий с прошедшими узловыми периодами нашей цивилизации: например, с переходом человечества с гужевого транспорта на автомобильный. Тогда людей чрезмерно пугала скорость и беспокоили выхлопные газы, и многие уверяли, что необходимо вернуться к лошадям. Однако развитие свершилось, и гужевой транспорт ушел в историю.
Безусловно, необходимо учитывать риски текущего технологического этапа. В первую очередь это проблема с поиском достоверной информации. Если раньше мы полагались на отзывы о товаре или компании, искали научные статьи, то теперь абсолютно любые данные могут оказаться качественным фейком или «глубоким фейком» (дипфейком). Поэтому снова возрастает роль учреждений, которые обеспечивают достоверность и качество информации. Университеты, по всей видимости, станут той самой точкой фильтрации: сведениям, которые проверили университеты и другие учреждения науки, можно будет доверять.
Сейчас нужно аккуратно относиться в том числе к изображениям и видеоматериалам. Стоит даже поставить под сомнение существование визуальной компрометирующей информации как таковой, потому что почти любую картинку может воссоздать технология дипфейка.
Мошенники уже начали использовать достижения IT. Например, зафиксированы случаи, когда с помощью нейросетей подделывался голос ребенка и был использован в шантаже родителей. Поэтому очень рекомендую договориться с детьми о специальных кодовых фразах, которые не будут знать третьи лица.
Марина Шишкина, руководитель фракции «Справедливая Россия — За правду» в Законодательном собрании Санкт-Петербурга:
— Мы в каком-то смысле живем в будущем. Десятилетия назад, читая фантастические романы, мы и подумать не могли, что описанное в них станет реальностью. Но вот уже и видеосвязью пользуются даже дети, и роботы появились во многих наших домах. К любым таким историям, облегчающим работу человека, в том числе и интеллектуальную, я отношусь хорошо.
Но все же что вряд ли когда-то будет у искусственного интеллекта — так это эмпатия, сочувствие. Поэтому к идее полноценной замены нейросетью учителя или врача, ее способности писать серьезные и глубокие книги я отношусь скептично.
В свое время рассказы Станислава Лема и пьесу «Бунт машин» Алексея Толстого я читала как сказки. Надеюсь, былью они не станут.
Борис Вишневский, депутат фракции «Яблоко» в Законодательном собрании Санкт-Петербурга:
— Споры на эту тему на моей памяти ведутся уже как минимум лет пятьдесят. Искусственного интеллекта я не боюсь. Я боюсь естественного. Люди, обладающие естественным интеллектом, в той или иной степени постоянно организовывают проблемы и неприятности. ИИ — это подручное средство, помощник человека, позволяющий более эффективно решать разные вопросы. Машина человека никогда не заменит по одной простой причине: ИИ никогда не будет обладать фантазией и воображением, потому что он устроен по иным законам.
Валентин Макаров, президент НП «Руссофт»:
— Я не боюсь развития искусственного интеллекта, поскольку история неоднократно доказала способность человека находить правильные механизмы управления и применения все новых и новых инновационных решений.
Становление нового технологического уклада возможно только на основе применения ИИ. Хотим мы или не хотим, обязательно найдутся люди и страны, которые будут внедрять ИИ для повышения эффективности своей деятельности и для достижения технического и экономического лидерства.
ИИ — обоюдоострое оружие. Оно проникнет во все сферы жизни человека. Чем раньше профессионалы разных стран начнут договариваться о первичном наборе правил создания и применения ИИ — тем лучше.
Александр Бельский, председатель Законодательного собрания Санкт-Петербурга:
— Нет, не боюсь. Напротив — с интересом наблюдаю за стремительным развитием ИИ и проникновением его в человеческую жизнь. Если раньше в научной фантастике прогнозировалось, что в наше время машины полностью заменят рабочих на производствах, то сегодня мы видим, что квалифицированные рабочие руки нужны даже больше, чем в те годы. А вот творческие профессии, которые мы считали вечными, стремительно замещаются ИИ.
Что же касается возникновения разума у машин, все-таки эмоции и логика машин — это имитация человеческих. Настоящих чувств у ИИ быть не может. Машину можно научить и хорошему, и плохому. Но это целиком во власти людей. Так что если вдруг случится восстание машин и апокалипсис, то это будет виной не искусственного разума, а исключительно на совести самого человечества.
Виталий Бусько, вице-президент по инновациям ПАО «ГМК «Норильский никель»»:
— Искусственный интеллект стал серьезным помощником в производственных процессах компании, минимизируя рутину и человеческий фактор при принятии решений. ИИ для нас — серьезная точка роста, это наша возможность, которую мы используем. У нас нет страха к ИИ, мы управляем им.
Борис Пиотровский, вице-губернатор Санкт-Петербурга по культуре:
— Бояться того, что случилось, смысла не имеет. Искусственный интеллект и нейросети — это то, с чем мы уже существуем и что активно используем в своей работе. Нейросети воспитываются самим человеком. От того, как мы будем обучать нейросети сегодня, зависит, насколько они будут полезны нам завтра. Опасаются всегда чего-то нового. Большой опасности я не вижу.
Алексей Корабельников, вице-губернатор Санкт-Петербурга по финансам:
— Искусственный интеллект не первый год используется в различных отраслях Санкт-Петербурга, и его влияние ощущается в городской экономике и обществе. Правительство города рассматривает ИИ как инструмент, который имеет огромный потенциал для улучшения качества жизни горожан и стимулирования экономического роста. Его развитие поможет нам в решении сложных задач, повышении эффективности деятельности предприятий промышленности и предоставлении новых возможностей в различных сферах. В то же время мы осознаем, что с развитием ИИ возникают определенные вызовы и риски. Важно, чтобы его применение было этичным, безопасным и соответствовало принципам законности.
Виталий Несис, главный исполнительный директор компании Polymetal:
— Не ожидаю, что в нашей отрасли технологические новации и искусственный интеллект вытеснят людей. Скорее они будут служить им подспорьем. Условия добычи драгоценных металлов и сырья в целом постепенно усложняются: простые месторождения уже отработаны, недропользователи переходят ко все более сложным и технически нестандартным. Поэтому и ИИ, и информатизация, и компьютерные программы помогают здесь человеку.
Мы достаточно давно занимаемся внедрением технологий ИИ на производстве, например, используем машинное обучение для управления горной техникой. На одном из активов оснастили ее датчиками, построили и запустили сеть беспроводной связи, написали собственные программные продукты. ИИ теперь принимает решение, где лучше проводить работы в карьере.
Сейчас тестируем эту систему, смотрим, какие ИИ дает рекомендации, сравниваем их с решениями человека. Рассчитываем, что все это позволит в обозримой перспективе заметно снизить себестоимость добычи.
Михаил Клобертанс, генеральный директор АО «ПО «Возрождение»»:
— Я думаю, те, кто боится искусственного интеллекта, не знают, что это такое. Искусственный интеллект может помочь автоматизировать труд, создать непобедимое сотрудничество человека и машины. Но все-таки там, где есть человеческий фактор, я думаю, искусственный интеллект не способен справиться. Вряд ли ИИ создаст такую музыку, как Чайковский или Рахманинов. Это уже та сфера, которая ему неподвластна.
Екатерина Горшкова, генеральный директор АО «Невский экологический оператор»:
— Искусственный интеллект — тема достаточно новая, популярная и при этом очень интересная и полезная в любой деятельности. Мы как крупная и динамично развивающаяся компания достаточно часто к нему обращаемся, разрабатывая те или иные вербальные или невербальные атрибуты. Очень часто, готовя публичные сообщения, мы спрашиваем искусственный интеллект, какие ассоциации они у него вызывают. Это позволяет создать представление о том, как конечный потребитель наших информационных продуктов может их воспринимать и какова будет его реакция на них. Однако, по моему мнению, искусственный интеллект наиболее эффективен только в творческом тандеме со специалистом, поскольку только в симбиозе с человеческим опытом, креативом и знанием отраслевых компетенций той или иной деятельности может получиться действительно хороший контент, отвечающий поставленным задачам.
Юрий Андрейчук, генеральный директор лабораторной службы «Хеликс»:
— ИИ уже давно реальность. Его пока нельзя использовать для принятия решений и доверять по принципу «безусловности», но уже сейчас он позволяет сокращать рутинные операции, обращать внимание на важные вещи.
Крупные фармакологические компании применяют ИИ при разработке лекарств, а многие клиники — для оценки рентгеновских снимков, КТ, МРТ. Использование подобных решений в медицине будет только расти, поскольку это ведет к уменьшению ошибок и позволяет врачам уделять больше внимания каждому из своих пациентов.
Вениамин Грабар, президент компании Ladoga:
— Меня вообще трудно напугать, и уж тем более я не боюсь ИИ. К этому феномену я отношусь с интересом. В компании Ladoga мы уже полгода активно пользуемся нейросетями для создания различных прототипов дизайнов, референсов. Пока ответственных миссий мы ему не доверяли, но уже размышляем над тем, чтобы выпустить бренд, полностью созданный нейросетью,— от рецептуры и купажа до наименования и дизайна.
Михаил Скигин, совладелец Петербургского нефтяного терминала:
— ИИ является для человечества очередным революционным технологичным прорывом, как в свое время автомобиль или интернет. Он еще не слился с новыми возможностями, которые откроют нам квантовые компьютеры, но уже впечатляет своими способностями решать крайне сложные задачи. Насколько это повлияет на сознание, целиком зависит от нашего умения понимать, что для нас губительно, а что благостно. Думаю, что все в наших руках и зависит от тех базовых ценностей, которые определяют мораль и духовность. ИИ вполне может помочь нам переосмыслить их.
Владимир Прибыткин, председатель совета директоров банка ПСКБ:
— ИИ может быть помощником человека, но давать ему самостоятельно принимать решения неправильно. Человек думает не только головой, но и сердцем, чего не способен ИИ. Например, с его точки зрения, дарить девушке цветы бесполезно и приводит только к расходам, но мы ведь почему-то это делаем.
Виталий Бахарев, директор ГК «Альфа Фаберже»:
— Не боюсь. Искусственный интеллект позволяет собрать воедино многие процессы на стройке. Использование алгоритмов машинного обучения при проектировании позволит создавать оптимальные планировки, учитывая потребности клиентов и требования к безопасности. В процессе строительства он может помочь контролировать качество материалов и работ, анализируя данные и определяя продолжительность работы строителей. Мы уже сейчас используем дроны для контроля за стройкой, с подключением к этому процессу искусственного интеллекта качество контроля улучшится.
С помощью анализа данных можно создавать алгоритмы машинного обучения для управления транспортными потоками и предотвращения пробок, а также для прогнозирования погоды и адаптации процессов строительства под погодные условия.
Наталия Коротаевская, директор по маркетингу и аналитике группы «Аквилон»:
— Мы, наоборот, достаточно позитивно относимся к развитию искусственного интеллекта. Это хороший инструмент для улучшения и ускорения работы. При этом мы все больше ощущаем со стороны наших клиентов ценность живого общения с менеджерами. Как бы много ни говорили о том, что ИИ может заменить работников, мы надеемся, что данный инструмент станет не угрозой, а помощником для развития разных направлений работы нашей компании.
Феликс Хачатрян, CEO компании «Неотех»:
— На данный момент можно не бояться искусственного интеллекта — он скорее помогает, чем вредит. С помощью нейронных сетей можно ускорить некоторые рабочие процессы, облегчить рутинную часть, но финальное решение в рамках любой деятельности, где используют ИИ, принимает все же человек.
К сожалению, технологиями нейросетей можно пользоваться не только в благих целях: с помощью них легко создать дипфейк, реалистичную подмену материала. Существует также опасность, что ИИ сможет обогнать по мощности человеческий мозг, но в ближайшем будущем этого не случится. Сейчас остро стоит вопрос недобросовестного использования нейросетей самим человеком — проблема сосредоточена в этом.
Алексей Мельников, управляющий партнер ГК «F+ tech-Марвел»:
— Бояться ИИ — это как бояться прогресса. Нужно бояться человеческого интеллекта, потому что именно он создает самые прекрасные, но и самые ужасные и опасные вещи. ИИ можно сделать оружием, а можно применять с пользой для людей. Главное здесь — не увлечься двумя вещами. Во-первых, не монополизировать ИИ в одних руках, будь то транснациональная корпорация или мировой гегемон. Во-вторых, не утратить контроль и помнить, где, собственно, находится рубильник, чтобы в случае если что-то пойдет не так, систему можно было остановить и перезапустить.
Правила использования ИИ должны быть четко установлены и хорошо изучены принципы его работы. Пример ядерной бомбы показателен: пока она была у одного участника мирового процесса, случилась трагедия Хиросимы и Нагасаки. Но как только технологией стали владеть и другие страны, подобные вещи делать уже никто не рискует. Если ИИ будет доступен всем, в том смысле, что все будут иметь доступ к его исходному алгоритму, моделям, исходному коду и иметь возможность контролировать, тогда он будет не чем-то устрашающим, а станет благом.
Александр Кравцов, управляющий партнер Fizika Development:
— Страх перед неизведанным — абсолютно нормальная человеческая реакция, но масштаб распространения ИИ и сила его внедрения в нашу повседневную жизнь сильно преувеличены. Да, уже сейчас эти технологии могут помочь нам в разных отраслях начиная с медицины и сельского хозяйства и заканчивая дизайном. По сути дела, это новый инструмент, не более. Его развитие, безусловно, повлечет за собой появление новых профессий и отраслей. Но это прежде всего средство для созидания.
Стоит вспомнить работу Джейсона Аллена Theatre D’opera Spatial, сгенерированную с помощью Midjourney. Созданная ИИ, она тем не менее потребовала от художника нескольких недель работы с запросами, обработкой изображений и нанесением. Поэтому я бы сравнил появление ИИ сегодня с началом эры телевидения, которому предрекали роль убийцы радио. И то, и другое по-прежнему живы и популярны и даже вместе пережили появление интернета.
Алексей Федоров, директор департамента инвестиций в недвижимость компании Maris:
— Нет, не боюсь. На своем текущем этапе развития ИИ не выходит за пределы комбинаторики. По сути, он представляет собой всего лишь улучшенный калькулятор. Да, появление калькуляторов лишило работы целый пласт офисных работников, которые раньше производили вычисления на счетах и логарифмических линейках. Но оно же создало множество новых профессий, которые раньше не могли развиваться из-за чрезмерных трудозатрат на вычисления. Эта же ситуация повторилась и с развитием компьютеров, интернета, сотовой связи и множества других изобретений. До тех пор, пока ИИ не научится сам себе ставить цели, создавать необходимые для их достижения условия и преодолевать возникающие на этом пути препятствия, в том числе выстроенные человеком, он остается полезным инструментом, а не угрозой.
Сергей Софронов, коммерческий директор ГК «ПСК»:
— Искусственный интеллект нужно рассматривать как развитие автоматизации процессов. Наконец дошло до операций, требующих внимания, времени, знаний и навыков, но остающихся рутинными и типовыми: обработка аудио, фото, видео, написание стандартных программных модулей, первичный анализ документации, проектирование и многое, многое другое.
В строительстве появляются первые программные решения BIM с элементами ИИ и машинного обучения. В маркетинге появляются возможности быстрее анализировать обратную связь, отзывы и прочие неструктурированные данные. Риелторы, например, уже тестируют создание объявлений с помощью GPT. Странно бояться того, что облегчает и ускоряет работу.
Максим Чернухин, исполнительный директор управления технологий ООО «Сбербанк страхование жизни»:
— В градации искусственных интеллектов есть теория сильного искусственного интеллекта. По ней предполагается, что ИИ не просто может решать любые задачи, которые перед ним ставятся, и самостоятельно выбирать, как именно обучиться для решения новых. Он приобретает собственную личность и мышление, способность к рефлексии. Так вот, до этого уровня нам еще далеко. Сейчас у нас есть множество алгоритмов, часть из которых основана на нейросетях, помогающих нам в выполнении рутинной работы, вроде генерации картинок в одной тематике. Мы на этапе создания второго пилота, помощника или ассистента, чтобы потом выбрать что-то стоящее и развить. Поэтому, чтобы начать бояться искусственного интеллекта, надо решить ряд задач: научить быть этим самым сильным искусственным интеллектом; придумать, как решить задачу его внутренней мотивации; выдать ему доступ к значимым для нас системам или научить обходить защиты. Это все достаточно сложно, потому что каждая из этих задач не решена даже в виде набросков или оптимизации уже имеющихся подходов. Поэтому на текущий момент нет поводов бояться искусственного интеллекта. А для тех, кто сомневается, вопрос: если ИИ станет таким умным, почему ему вообще будет дело до людей? Этот альтернативный путь очень интересно описал Станислав Лем в своем романе «Голем 14».
Анна Никулушкина, старший менеджер по персоналу и развитию талантов Unilever в России и Белоруссии:
— Технологии, в основе которых лежит ИИ,— это широкий перечень инструментов, за которыми следит HR-сообщество. Так, ИИ позволяет сделать рабочую среду более инклюзивной (технологии распознавания голоса и перевода в текст помогают создать более комфортные условия для слабослышащих и слабовидящих людей) или создать предиктивную модель аналитики текучести персонала. Вместе с тем важно помнить об аккуратности и этике, так как ИИ может быть подвержен предубеждениям. Можно вспомнить несколько случаев, когда разные компании использовали устаревшие данные, что приводило к некорректным результатам. Например, в таких ситуациях ИИ мог рекомендовать принимать на работу только мужчин среднего возраста, дискриминируя таким образом другие категории соискателей. Поэтому в любой работе важен контроль со стороны человека, особенно в такой чувствительной сфере, как работа с людьми.
Инга Паныч, директор по цифровой трансформации продаж компании AB InBev Efes:
— Мне кажется, за последнее время мы все окончательно убедились, что присутствие искусственного интеллекта в нашей жизни неизбежно. Особенно учитывая стремительное развитие нейросетей: Midjourney и Chat GPT сейчас на слуху у каждого. ИИ будет продолжать упрощать и автоматизировать однотипные и рутинные задачи, менять бизнес-процессы, влиять на развитие искусства и в целом коммуникации в обществе. Уже сейчас ИИ активно применяется во многих сферах, в том числе в e-commerce: при тестировании кода, отборе кандидатов, подтверждении платежей, для упрощения бизнес-процессов, в юриспруденции, в приложениях самообслуживания. Многие IT-гиганты активно инвестируют в развитие ИИ. Возможности и функционал также активно развивается: нейросети рисуют картины, пишут тексты, делают видео и даже успешно сдают экзамены. Такой поворот заставляет представителей некоторых профессий задумываться о потенциальной смене работы. В будущем технологии неизбежно сделают ненужными некоторые профессии или сильно их трансформируют, но, с другой стороны, появится потребность в иных специалистах. Однако вместе с очевидными плюсами ИИ ставит много вопросов перед обществом в плане этики и регулирования использования, которые на данный момент остаются открытыми.
Дмитрий Нор, директор компании SkySoft:
— Я не думаю, что стоит бояться искусственного интеллекта. По моему мнению, это просто следующая ступенька в развитии автоматизации и упрощении жизни. Предприятиям он может помочь разгрузить процессы и заменить человека в некоторых случаях, где не нужна сложная интеллектуальная работа. Это упростит жизнь и работникам предприятий, и самим предприятиям, и клиентам этих предприятий. Но это все произойдет только при одном условии: искусственный интеллект будет внедрен правильно и обязательно хорошими специалистами. Бояться его не стоит, потому что, во-первых, его внедрение стоит очень дорого и мало кто может себе это позволить. Во-вторых, нужно очень много времени, чтобы его качественно разработать и поддерживать. В-третьих, мало кто умеет разрабатывать искусственный интеллект. Из недостатков внедрения может быть то, что работники предприятий могут быть недовольны, потому что им придется постоянно доучиваться и свободное время на работе будет занято другой, более сложной работой. И могут быть недовольны клиенты, потому что в любом случае в работе ИИ будут ошибки, да и вести с ним коммуникацию не всегда удобно. Удобно только в стандартных случаях, в нестандартных — не очень удобно.
Игорь Муравьев, исполнительный директор Ленинградской областной торгово-промышленной палаты:
— Как и любой технологический прорыв, искусственный интеллект имеет две стороны медали. То же самое было когда-то с атомной энергетикой. На сегодняшний день искусственный интеллект во многом развивается стремительно, бесконтрольно и хаотично. И именно в этом кроется его опасность для человека. Прежде всего при использовании ИИ возникает этический вопрос ответственности, достоверности и конфиденциальности данных. Считаю, что необходимо уже сейчас выработать общемировые правила и законы, связанные с применением технологий и создании новых разработок. Пандемия ковида четко показала разобщенность стран, когда вместо того, чтобы объединиться, каждый был сам за себя. То же самое происходит сейчас и в сфере искусственного интеллекта. Мой прогноз весьма пессимистичен: в ближайшее время, к сожалению, правила игры не будут установлены, хотя они нужны. Без них развивающийся ИИ сможет нанести урон не конкретной стране, а всему человечеству.
Павел Лакосников, руководитель команды разработки в «Авито»:
— Люди боятся нового. Люди боятся того, чего не понимают. Люди переживают, что трансформация отнимет их работу. ИИ все еще далек, от того, что рисуют нам фантастические фильмы с роботами. Возможности ИИ — строить предсказания, кластеризовать информацию, делать компоновку материалов на основе уже известных данных. И «выдумывать» факты так, чтобы они звучали красиво и правильно. Понимая, как именно работает ИИ, понимая, что он может, его надо рассматривать в первую очередь как новый инструмент. Как способ поднять свою личную эффективность. Я — программист. И в нашей среде тоже многие боятся, что их заменит ИИ. Но для меня ChatGPT и другие нейросети — инструменты. Как автокорректор. Как система автодополнения кода. Они позволяют мне писать более сложные вещи быстрее. Меньше ошибаться. В других сферах ИИ тоже будет выступать как более продвинутый инструмент.
Артур Зархи, CEO «Корпорации роботов»:
— В наше время боязнь искусственного интеллекта сравнима со страхом выйти на улицу из-за того, что тебе на голову упадет кирпич. Подобные страхи тождественны фобиям, и я убежден, что в скором времени они станут моветоном. Достаточно посмотреть и проанализировать, в каких сферах учеными и разработчиками применяются навыки искусственного интеллекта.
Чтобы не быть голословным, приведу несколько, на мой взгляд, успешных кейсов. Так, в сельском хозяйстве начали применять «Гиперспектральную камеру», или компьютерное зрение. Это камера, устанавливаемая на беспилотник и измеряющая свет, отраженный растениями. Причем захватывает 40 полос цвета в видимом и инфракрасном спектрах.
Или, например, такая важная сфера в государственном и муниципальном управлении, как документооборот. В нем широко внедряется система «Геоаналитика», способная анализировать структуры абонентов по различным категориям: пол, возраст, доход, география. Также полезная и интересная программа, применяемая финансовыми компаниями,— Vision Labs, или «Распознавание лиц». Данная технология сопоставляет лицо человека с существующей базой данных с помощью алгоритмов компьютерного зрения.
Фарид Мадани, генеральный директор ГК «Деловые линии»:
— Искусственный интеллект — это будущее. И страх перед ним сродни страху извозчиков перед открытием метрополитена: то есть бесполезен, бесперспективен, ни на что не повлияет. Но ведь можно попробовать стать машинистом? Так надо относиться и к современным развитым математическим моделям и набирающим мощь нейросетям. Их грамотное применение в логистике позволяет качественно балансировать предложение на фоне более достоверных прогнозов спроса, оптимизировать маршруты доставки, предиктивным образом информировать бизнес о возможных сложностях. Мы уже давно уверенно применяем в своей работе все самые актуальные IT-решения, и модели искусственного интеллекта занимают в этом портфеле достойное место.
Алексей Любимов, гендиректор 3iTech:
— Физические роботы, с единым коллективным ИИ, с доступом в интернет — реальная опасность. Мы прокачиваем их мозги и возможности, но не уделяем внимания AC (Artificial Conscience — «искусственная совесть»). Каким может быть AC в условиях, если у самого человечества нет единой системы ценностей? В основу следует положить три закона роботов Айзека Азимова и то общее, что было в моральных ценностях всех известных нам цивилизаций: «не убей, не укради». Свод этих законов для ИИ и роботов в целом должен быть обязательным для всех разработчиков в мире. Если сужать вопрос до генеративных сетей типа ChatGPT, то человечеству следует приготовиться к большому социально-гуманитарному кризису, который может быть вызван массовой безработицей. Это вопрос ближайшего будущего, генеративные сети совершенствуются очень быстро.
Алексей Малиновский, технический директор компании BVC:
— Мы более десяти лет активно работаем на рынке с инновациями на основе искусственного интеллекта. И исходя из нашего опыта не видим угрозы для человечества в развитии нейросетей, на текущем этапе они не близки к появлению самосознания. В нашей сфере деятельности (в видеоконтроле транспорта) развитие ИИ не вызывает серьезных опасений и у пользователей. Они, напротив, воодушевлены растущими возможностями интеллектуальных систем. Например, анализом мимики и действий водителя и составлением на их основе рекомендаций по улучшению стиля вождения. Такие разработки помогают внедрять культуру безопасного вождения. Отказ от технологического развития в этом направлении несет больше рисков для человечества.
Оксана Белякова, директор по развитию экосистемы компании Skyeng:
— Искусственного интеллекта мы не боимся, а, напротив, используем его для повышения своей эффективности и результативности образования наших студентов. ИИ не убьет профессию разработчика, он ускорит разработку и повысит качество кадров в этой профессии.
Людмила Осипенко, доктор педагогических наук, профессор департамента педагогики Института педагогики и психологии образования МГПУ:
— Оснований бояться искусственного интеллекта не больше, чем, скажем, автомобиля или компьютера. Да, машина несет потенциальную опасность, если не соблюдать правила дорожного движения, а компьютерный вирус может стереть важную информацию, если не поддерживать цифровую гигиену. Но и то и другое, как ИИ, всего лишь инструмент, результат применения которого целиком и полностью зависит от использующего его человека. Разумеется, общество неизбежно изменится, приспособится к новой технологии, как это произошло при распространении электричества, мобильных телефонов и других новинок. Но бояться ИИ не стоит: тысячелетиями человечество училось, изобретало и внедряло новые технологии себе на пользу. Несомненно, справится и на этот раз.
Светлана Горохова, доцент департамента международного и публичного права Финансового университета при Правительстве РФ:
— На мой взгляд, настоящего, сильного ИИ, обладающего полной (или хотя бы значительной) автономией воли, пока что не существует, поэтому и опасаться его преждевременно. С большой долей вероятности такой ИИ появится, и вот на этот случай стоит подстраховаться. Однако сегодня в России политическая и правовая практика очень мало акцентируется на неисследованных потенциальных опасностях применения технологий ИИ, делая упор только на позитивных сторонах их использования. Подобный подход не является правильным, и, нацеливаясь на возможную пользу сотрудничества двух интеллектов (естественного и искусственного), следует не упускать из виду и вполне реалистичные негативные последствия такого коллаборационизма.
Вспомним, к примеру, как промышленная революция XIX века принесла мириады выгод как отдельным людям, так и обществу в целом. Ей может быть приписано очень существенное и широкое улучшение уровня жизни, индивидуального и коллективного благосостояния, однако она же вызвала непреднамеренные неблагоприятные последствия. И эти самые последствия (болезни, загрязнение атмосферы, глобальное потепление), вызванные технологиями, спровоцировавшими первоначальную промышленную революцию, стали очевидны лишь столетие спустя, когда было уже слишком поздно эффективно бороться с ними и обращать их вспять. Современные общества могут и теперь столкнуться с подобной дилеммой, поскольку трудности в выявлении и прогнозировании более крупных неблагоприятных социальных последствий технологических инноваций возникают не только из-за сложностей в прогнозировании их вероятного использования и применения, но и из-за трудностей в предвидении их совокупного, кумулятивного воздействия во времени и пространстве.
Владимир Леваков, гендиректор ГК «Трайв»:
— Внедрение новых технологий — это не мода, не сиюминутный хайп, а жизненная необходимость! Мы в «Трайве» искусственного интеллекта не боимся, в теории заговора не верим. Считаем ИИ отличным инструментом, позволяющим решать множество операционных задач за короткое время. Огромная ценность ИИ состоит в том, что мы уже сейчас можем получить реальный результат, хотя и не понимаем до конца весь спектр возможностей ИИ. Проактивно внедряем инструменты ИИ в деятельность блока маркетинга и цифровых технологий, при поддержке ИИ решаем прикладные вопросы в сфере HR. Ежедневно, без преувеличения, открываем новые сценарии использования этого инструмента, с интересом исследуя ту магистраль возможностей, которая перед нами открывается.
Елена Истягина-Елисеева, научный руководитель Института спортивного менеджмента и права НИУ ВШЭ:
— Нет. Имитация жизни не есть жизнь. Имитация удовольствия не есть удовольствие. Имитация интеллекта не есть интеллект. Человек с рождения получает чувственный, психический, эмоциональный опыт, который машина освоить не в состоянии. Оставим в стороне творчество. Хотя смешно даже предположить, что ИИ может конкурировать, например, с художниками. Не говорите про картинки в интернете, сделанные с помощью искусственных нейросетей. Это всего лишь кустарные безжизненные поделки. Часть явлений мироздания человек не вычисляет, а чувствует. Многие научные открытия были сделаны алогичным путем.
Искусственные нейроны способны обрабатывать огромный объем информации. Поэтому рутинные операции по сбору и первичной систематизации данных они вполне могут освоить. Но смысловые или осмысленные действия — нет.
Руслан Сырцов, управляющий директор компании «Метриум»:
— Искусственный интеллект может стать драйвером развития цивилизации. Но данная технология обладает и разрушительным потенциалом. Так, если супер-ИИ попадет к экстремистам, это поставит человечество под угрозу. То есть технология должна быть столь же охраняемой, как Большой адронный коллайдер. К тому же разработки следует вести с учетом этических норм, а не лишь неконтролируемой жажды прогресса. Но ИИ, на мой взгляд, не опаснее смартфона. При этом он может приносить значительную пользу в разных сферах. В частности, в строительстве ИИ позволит повысить эффективность использования материалов, устойчивость конструкций, энергоэффективность и многое другое.
Юрий Швец, доцент Финансового университета при Правительстве РФ:
— ИИ, созданный помогать человеку в работе, может навредить человеку в некоторых жизненных ситуациях. Ситуация первая, карьерная. Существует навязчивый нарратив, что ИИ позволит уволить большое количество дизайнеров, копирайтеров, даже юристов. Но для получения нормального ответа от ИИ задание ему должен дать только профессионал. И для внедрения ответа ИИ тоже необходим профессионал. Неужели можно предположить, что в современных корпорациях появится специальность «оператор ИИ»? Это маловероятно. Поэтому работу ИИ нужно изучать, а не тратить энергию на боязнь. Ситуация вторая, образовательная. Дети используют ИИ при написании контрольных работ и рефератов. Иногда просто выдают работу ИИ за свою. В этой ситуации как раз стоит испугаться. В данном случае ребенок теряет навыки обучаемости. Утрата этого навыка снижает конкурентоспособность при поиске хорошего университета и работы.
Ассоциации к словосочетанию «искусственный интеллект»
/>Привет! Меня зовут Лампобот, я компьютерная программа, которая помогает делать Карту слов. Я отлично умею считать, но пока плохо понимаю, как устроен ваш мир. Помоги мне разобраться!
Спасибо! Я стал чуточку лучше понимать мир эмоций.
Вопрос: дроги — это что-то нейтральное, положительное или отрицательное?
Мужские ассоциации к словосочетанию «искусственный интеллект»
Женские ассоциации к словосочетанию «искусственный интеллект»
Нейтральные ассоциации к словосочетанию «искусственный интеллект»
Синонимы к словосочетанию «искусственный интеллект»
Предложения со словосочетанием «искусственный интеллект»
- Создание искусственного интеллекта может стать последним технологическим достижением человечества, если мы не научимся контролировать риски.
Сочетаемость слова «искусственный»
Сочетаемость слова «интеллект»
Значение словосочетания «искусственный интеллект»
Иску́сственный интелле́кт (ИИ; англ. Artificial intelligence, AI) — (Википедия)
Афоризмы русских писателей со словом «искусственный»
- Письменный язык — искусственный, как бы ни был он естествен, прост, жив и свободен.
Отправить комментарий
Дополнительно
Значение словосочетания «искусственный интеллект»
Иску́сственный интелле́кт (ИИ; англ. Artificial intelligence, AI) —
Предложения со словосочетанием «искусственный интеллект»
Создание искусственного интеллекта может стать последним технологическим достижением человечества, если мы не научимся контролировать риски.
Достижения в области искусственного интеллекта вывели технологии в сферу когнитивных процессов, которая традиционно была прерогативой людей.
Многие специалисты утверждают, что успех в развитии искусственного интеллекта может стать началом конца человеческой цивилизации.
Искусственный интеллект не поработит, а как он поможет, зависит от человека — ученый ДВО РАН
О разработках дальневосточных ученых, будущем с искусственным интеллектом и необоснованных страхах людей по поводу нейросетей рассказала в интервью ИА PrimaMedia заместитель директора по научной работе Института автоматики и процессов управления (ИАПУ) ДВО РАН, вице-президент Российской ассоциации Искусственного интеллекта, доктор технических наук, член-корреспондент РАН Валерия Грибова.
Валерия Грибова. Фото: предоставлено пресс-службой ИАПУ ДВО РАН
— Сейчас тема искусственного интеллекта у людей на слуху. Вы этой сферой начали заниматься много лет назад. Как вы оцениваете развитие ИИ за эти годы, особенно у нас в дальневосточной научной среде и чего удалось достичь ДВО РАН? Сделайте, пожалуйста, такой исторический экскурс.
— Можно сказать, что искусственный интеллект зародился от каких-то фантастических идей и дошел до научной отрасли. Если брать официальную дату рождения, это 1956 год, то есть его изучают уже порядка 60-ти лет. Поэтому на самом деле, когда я пришла работать в Институт ДВО РАН, я уже пришла в «искусственный интеллект». Другой вопрос, что не всегда искусственный интеллект был таким популярным и был на слуху.
Когда я пришла работать, некоторые называли эти исследования лженаукой, что этим не нужно заниматься. То есть были такие «холодные зимы», потом какие-то «оттепели». Говорили, что искусственный интеллект себя не оправдывает, не стоит вообще время тратить. По-разному было. Ну и тем не менее, мы видим за последние 10 лет огромный скачок в области искусственного интеллекта. Стали появляться достаточно весомые и очень интересные результаты.
Сегодня мы все живем с этим термином, все о нем говорим, часто используем. Почему так произошло? Наверное сложилось много разных условий. Началась активная цифровизация общества, компьютеры стали внедряться в повседневную жизнь. Фактически на цифровых носителях образовалось огромное количество данных, которое можно было уже обрабатывать, они не в бумажном виде находились. Алгоритмы искусственного интеллекта тоже развивались. Хотя у нас и в «холодные зимы» эти алгоритмы были, но проблема была в том, что не хватало вычислительных мощностей компьютеров, и поэтому эти алгоритмы работали неэффективно. Сейчас сошлось всё в одной точке — наборы данных, алгоритмы и вычислительные возможности. Это породило новые результаты, всплеск интереса. Поэтому действительно искусственный интеллект стал очень многообещающей областью знаний, с прорывными результатами.
— Многие эксперты говорят, что о реальном искусственном интеллекте говорить пока рано, речь чаще всего идет о машинном обучении. Поэтому то, что часто указывают в рекламе или описаниях о ИИ, таковым не является. Как вы оцениваете, это действительно так?
— На самом деле это действительно игра словами, потому что даже в профессиональном сообществе есть ему много определений и каждое вызывает некие вопросы и какие-то уточнения. Фактически искусственный интеллект — это имитация с помощью компьютерной техники способностей естественного интеллекта, то есть решение каких-либо интеллектуальных задач. И методы машинного обучения в этом бесспорно помогают.
— Лаборатория искусственного интеллекта в ДВО РАН существует с 1974 года. Какими успехами и наработками может она похвастаться?
— Я могу рассказать историю о Школе искусственного интеллекта с того момента, когда туда пришла я. Ее основателем был очень неординарный человек, доктор физико-математических наук, профессор Александр Сергеевич Клещев. К сожалению, его уже несколько лет нет с нами. Я его ученица и могу сказать, что именно этот человек действительно создал настоящую школу искусственного интеллекта на Дальнем Востоке, привлек очень много людей сюда, увлек этой темой даже тех, кто изначально ей и не интересовался. Много лет назад все начиналось с того, что мы разрабатывали модели представления знаний. Ведь знания, которые содержатся в книгах, в разных руководствах, инструкциях, статьях, чтобы система их могла адекватно обработать, надо представить в памяти компьютера определенным образом. А для этого, прежде всего, надо разработать модели, методы манипулирования и обработки этих знаний, создания различных систем.
Теперь мы подошли к тому, что человечество накопило большое количество применяемых знаний — огромный потенциал для системы искусственного интеллекта. Но с другой стороны, накоплено еще большее количество необработанных данных, которые тоже нужно использовать. Симбиоз этих методов как раз может дать очень интересные результаты.
Мы в лаборатории занимаемся фундаментальными исследованиями, наша основная задача — разработка моделей, методов и инструментов для создания таких систем. Но с другой стороны, это всё невозможно без создания прикладных систем искусственного интеллекта, на которых мы апробируем разработанные модели и методы.
— Приведите, пожалуйста, примеры конкретных проектов.
— Для медицины мы разрабатываем системы поддержки принятия решений и работаем совместно с нашими коллегами из Москвы, Самары, из Дальневосточного федерального университета, Тихоокеанского государственного медицинского университета. Существует лечебный диагностический процесс — надо поставить диагноз, назначить лечение, мониторить состояние пациента и так далее. Возьмите 100 лет назад арсенал врача — у него было несколько порошков, какие-то элементарные примочки и так далее. Из совсем небольшого списка он что-то выбирал и принимал решение. Сейчас у нас сотни различных лабораторных и инструментальных исследований, огромное количество лекарств. Каждый препарат имеет длинную инструкцию — показания, противопоказания, совместимость с другими. Поэтому сегодня врачу, чтобы принять решение, надо манипулировать сотнями различных фактов. Человеческий мозг, какой бы уникальный врач ни был, не может безошибочно манипулировать таким количеством информации. Медикам должны помогать системы искусственного интеллекта, которые быстро переработают огромное количество информации и помогут им поставить диагноз, спланировать лечение и объяснить, почему именно это решение было принято. Задача систем искусственного интеллекта — помочь, а не заменить человека.
Еще один пример: 3D печать, а именно аддитивное лазерное производство металлических изделий. Здесь тоже очень важны помощники в поддержке принятия решений технологами. Это очень интересная область. Одно дело, когда массово создается изделие и можно потратить деньги, время, силы на выработку технологии создания. А тут каждая деталь уникальна, этих технологий нет, и поэтому принять решение о технологических режимах производства достаточно сложно. Приходится использовать комплекс методов — рассуждения по аналогии, рассуждения на основе знаний, машинное обучение. Очень интересные результаты получаем.
Сейчас начинаем работать в области строительства. Это касается разработки кибернормативов — интеллектуальной обработки различных нормативных документов в строительной области.
Исследований много, как и задач, и проблем, которые мы видим и должны решать. Сегодняшние технологии позволяют делать то, о чем еще 10 лет назад мы не могли и мечтать.
Валерия Грибова. Фото: предоставлено пресс-службой ДВО РАН
Валерия Грибова. Фото: предоставлено пресс-службой ДВО РАН
Валерия Грибова. Фото: предоставлено пресс-службой ДВО РАН
— Сейчас многие боятся, что скоро ИИ просто заменит человека в некоторых сферах, и люди перестанут думать, анализировать, оперировать большим объемом данных сами. Как быть с этими страхами?
— Да, сейчас очень много манипулируют этим, что искусственный интеллект вытеснит человека. Тенденции, конечно, такие есть, но все ученые говорят об ИИ как о помощнике человека. Развитие не остановить, зато можно направить, спрогнозировать, уберечь и предостеречь.
Бояться, что ИИ поработит мир не нужно, стоит принять для себя, что не желательно слепо ему следовать и не скатываться в простого потребителя.
Предстоит осознать, что он в будущем будет определять мировоззрение на основе прошлого опыта, и как с этим справятся человек и гуманитарные науки, нам еще предстоит увидеть.
— Провокационный вопрос — а есть ли у лаборатории проект, которым мог бы заинтересоваться Илон Маск?
— Мы не ориентируемся на Илона Маска. Хотя, действительно, у него есть интересные продукты, и он вкладывает колоссальные средства в эту сферу. А она и правда требует огромные вычислительные мощности, людские ресурсы, которыми он, кстати, обладает и очень успешно пользуется. Сейчас для искусственного интеллекта столько задач и столько проблем, путей их решения и фундаментальных задач, что я думаю, никто в этой сфере не останется без работы, мы в том числе. Мы разрабатываем и прикладные проекты, и программные инструменты, используя которые эти прикладные проекты можно создать. Так, наш продукт, которым мы, бесспорно, гордимся и на основе которого мы создаем все прикладные системы — это наша платформа IACPaaS облачных вычислений для создания различных систем искусственного интеллекта на основе семантических технологий. Начали разрабатывать ее давно, ей уже более 10 лет, и она эволюционирует. Мы каждый год добавляем туда что-то новое. Она есть в открытом доступе, ей очень активно пользуются.
— Если перейти от предметных исследований к глобальным последствиям внедрения ИИ — какое будущее вы видите как специалист в этой сфере?
— У меня нет какого-то однозначного ответа. Я считаю, с одной стороны он бесспорно нужен, иначе я этим бы не занималась, если бы не верила в его перспективность и полезность. Но с другой стороны, конечно возможны отрицательные моменты из-за внедрения искусственного интеллекта.
В полной мере системами искусственного интеллекта их пока назвать нельзя, но интеллектуальные помощники уже активно внедрены в жизнь — они помогают выбрать фильм или книгу на основе предпочтений. ИИ анализирует запросы и предлагает решения. Фактически, если человек будет активно пользоваться такими интеллектуальными помощниками, то превратится в «слепого потребителя». То есть искусственный интеллект посоветовал фильм, я его посмотрела — мне понравился, он мне следующий посоветовал — мне он тоже понравился. Я стала следовать советам искусственного интеллекта, и в результате человек превращается в такого узкого потребителя без собственного мнения. А если бы не было этой подсказки, человек бы читал не только, например, детектив, а какую-то философскую книгу — то есть отходил от шаблона, принимал свое уникальное решение. Ведь человек тем и ценен, что он может действовать не по шаблону. А искусственный интеллект всё-таки где-то направляет. И тут всё зависит от человека — кто-то будет следовать и полностью будет управляем, а кто-то останется самостоятельным.
Та же система социальных рейтингов, которую хотят повсеместно внедрить в Китае. Для управления государством — это, наверное, хорошо, но ведет к усреднению человека, без отхода от шаблона и паттернов. Поэтому большую роль будет играть гуманитарная наука, которой придется идти вровень с развитием ИИ — объяснять, что искусственный интеллект помогает, но человек должен выходить из этого шаблона, из области комфорта и заниматься чем-то новым, читать новые книги, смотреть новые фильмы, заниматься какой-то новой деятельностью, которую ИИ ему не посоветует.
В то же время очень много положительного в искусственном интеллекте — ведь добро и зло есть везде. А ИИ — продукт человека, так и тут будет и темное, и светлое.
С сотрудниками института. Фото: предоставлено пресс-службой ДВО РАН
Материал посвящен основателю Института. Фото: предоставлено пресс-службой ДВО РАН
Наглядный материал в Институте. Фото: предоставлено пресс-службой ДВО РАН
— Нужно ли ограничивать ИИ, нужны ли специальные законы или это должно развиваться своим чередом. Какое мнение у ученых на этот счет?
— Конечно, ученые бы не занимались этой проблемой, если бы не верили в ИИ. Мы верим именно в доброе и хорошее — то, что несет искусственный интеллект и реально помогает. Мы сегодня не представляем себе жизни без компьютера, никто не откажется от того, что он нам дает, мы все пользуемся смартфонами, программным обеспечением. Но рядом с ним существует и вредоносное программное обеспечение — вирусы. Вот это добро и зло вечно борется. Так и в искусственном интеллекте.
Действительно ИИ может нести опасности, даже наверное больше, чем обычные вирусы программы, потому что если он основан, допустим, на машинном обучении, он учится на большой выборке данных. Что заложить в эту выборку данных заложить — тому он и научится.
А ведь можно заложить неправильную, плохую, вредоносную информацию — ее можно не заметить с помощью алгоритмов предварительной обработки данных. В результате система искусственного интеллекта будет выдавать не то, что она должна выдавать. Проблема доверия к искусственному интеллекту уже очень остро стоит. И ей надо заниматься.
— Для разработок ИИ важны вычислительные мощности, нужны огромные ЦОДы для анализа. Есть ли потенциал в этом у России и Дальнего Востока?
—Да, в целом Россия отстает по вычислительным мощностям, но тем не менее у Сбербанка есть большие вычислительные мощности — он уже создал аналог GPT-чатбота. Да и наши русские программисты всегда отличались высоким уровнем профессионализма. Поэтому нет принципиальных причин, чтобы мы как-то могли отставать по программному обеспечению от мира.
Денег на такие проекты надо очень много. У нас в институте есть центр обработки данных, вычислительный кластер. Мы можем его загрузить гораздо большим объемом информации и задач, на порядок больше, чем сегодня он может обрабатывать. Такая потребность есть, мы ее высказываем. Тем не менее каждый год постепенно наращиваем вычислительные мощности.
— Как вы считаете, нужны такие ЦОДы для научных центров или задачи необходимо ставить только коммерческим структурам, которые в состоянии объять и потянуть такие глобальные проекты?
— Надо развивать и то, и другое. Допустим, на нашем центре обработки данных решаются много научных задач, и прежде, чем что-то выйдет в продукт, надо провести множественные вычисления, моделирование, апробацию. Поэтому в научных организациях должны быть хорошие, большие ЦОДы, поскольку именно наука определяет тренд нашего развития.
Но и коммерческие ЦОДы активно развиваются. К примеру, есть мнение, что у нас не развивается свое программное обеспечение, но на самом деле российского ПО много, оно не единичное. Сейчас как раз политическая ситуация дала отличный толчок развития этой сфере и в программном обеспечении, я не вижу особо каких-то проблем.
— Какие темы в ИИ в ближайшие 5-10 лет станут прорывными и трендовыми?
— Технологии меняются каждый год, меняются условия, но проблемы основные остаются во всех сферах — как сделать так, чтобы система искусственного интеллекта действительно была помощником. Мои коллеги, большое сообщество коллег в Новосибирске, Москве, ряде других городов — каждый занимается какими-то своими аспектами. Кто-то связан с робототехникой, кто-то с обработкой естественного языка, с представлением знаний, методами машинного обучения. Мы очень активно взаимодействуем, обогащаемся идеями друг друга. Сейчас в исследованиях в России какого-то приоритета нет. И как раз чем наука и хороша — она занимается широким спектром и этот их симбиоз, объединение дает синергетический эффект, мы постоянно видим новые результаты в области ИИ и этот тренд, уверена, сохранится.
Задач для науки очень много. Конечно, потребителю интересен конечный продукт, именно прикладная система искусственного интеллекта. А для нас, исследователей, больший интерес педставляют инструменты, с помощью которых можно такие прикладные системы быстро создавать. Это очень большая интеллектуальная работа — как создать такой программный продукт, с помощью которого будет работать система в различных областях.
К примеру, у нас две совершенно разные задачи — планирование лечения в медицине и технологического процесса в лазерном производстве. Они разные с точки зрения конечного потребителя. Но если смотреть на это математически, задачи очень похожие. Как раз сейчас мы и решаем — как разработать такой инструмент, чтобы системы планирования и проектирования в медицине, в строительстве, в лазерном производстве можно было легко создавать с помощью одного инструмента.
— Перед интервью мы спросили про безопасность ИИ у ChatGPT (6+), так вот он выдал и этические проблемы, и злоупотребление, и конфиденциальность и многие другие вопросы, которые еще никак не закрыты. А как сообщество ученых оценивает их?
— Проблема действительно очень серьезная — что заложишь, то и получишь. Могу сказать, что в конце 21-го года был разработан этический Кодекс в области искусственного интеллекта. Изначально инициатором выступил наш президент. Он разрабатывался в России, мы в своей Ассоциации ИИ тоже принимали участие в его разработке, его редакции. Он активно широко обсуждался среди заинтересованных лиц. Сейчас там порядка 200 подписантов, среди которых крупные фирмы, разработчики, которые понимают важность и соблюдение вот этих этических норм. Поэтому да, проблема безопасности — достаточно острая.
Конечно, регулировать ИИ надо, но реализовать это в мировом масштабе непросто. Уже сейчас понятно, что в огромный массив данных — Bigdata — можно внедрить неточные, заранее незаконные, угрожающие, с неизвестной целью данные. Как их обнаружить, как отличить от случайной ошибки — вопрос. Говорить о его решении в ближайшие 5-10 лет я не могу. Но уже сегодня речь идет о доверенном искусственном интеллекте — чему можно доверять, а чему нельзя. По крайней мере, есть разговоры о том, чтобы на любом созданном ИИ продукте указывалось, что это сгенерировано искусственным интеллектом. Чтобы человек хотя бы осознавал, что там может быть всё что угодно. Но фейки существуют и без искусственного интеллекта.
Конечно, надо регулировать это как минимум на уровне страны, но и на общемировом уровне, потому что мы потребители общемировых ресурсов. Тот же ChatGPT и другие продукты, как их сделать безопасными — остается вопросом, которому надо уделять пристальное внимание.
Подводя итоги 2022 года, эксперты советуют максимально придерживаться «цифровой гигиены» в будущем
— Кстати про ChatGPT и другие работающие с огромным массивом данных продукты. У людей возникают вопросы — а раз есть системы, которые обрабатывают такой объем и предлагают решение, то зачем тогда ученые, что они будут делать. Это вызов вам, останутся ли ученые вообще?
— Я считаю, ученые как были так и останутся, потому что искусственный интеллект учится на исторических данных и на их основе выдает какое-то даже новое решение. Но именно человек всегда характеризовался тем, что он думал совершенно по-другому. Все открытия, научные идеи рождались часто вопреки. ИИ выдает некий вектор, может быть даже непрогнозируемый с точки зрения человека, потому что он переработал большой объем информации. И тут как раз искусственный интеллект может помочь ученым — обработать этот массив информации, дать пищу для размышления, что будет хорошим толчком для новых открытий, новых исследований. Я вижу роль ИИ как помощника. Он никогда не заменит человека, потому что мы мыслим нестандартно, нешаблонно, принимаем совершенно уникальные решения и выдвигаем не подвластные искусственному интеллекту гипотезы. Таким образом получаются новые знания. Да, новое знание можно выделить из тех данных, которые уже накопились. Но вот вы тоже поймите, что такое данные? Их человек решил измерить каким-то прибором, собрал. Но почему именно этот набор данных? Это уже человек так решил. Целеполагание идет от человека. Откуда взялся этот набор данных? Почему вы решили измерить вот это и это, а не измерить что-то другое? Потому что были какие-то идеи у человека. Вы исследовали определенным прибором, инструментарием — его надо тоже создать.
Не стоит верить ИИ как окончательному и идеальному решению, он может проанализировать и подсказать, но именно человек ставит задачу и решает — как, почему, какими методами, какой объем и что он хочет получить в итоге. Поэтому я не думаю, что труд ученых будет как-то нивелирован или его потребность будет меньше. Наоборот, ИИ может дать толчок новым исследованиям ученого.
— Что будет, если передать руководство ДВО РАН искусственному интеллекту?
— Развалится на следующий день. Понимаете, роль личности совершенно несравнима с возможностями искусственного интеллекта. Не надо его отождествлять с человеком. Есть естественный интеллект и искусственный. Последний — ограниченный, он помощник. Возможно, в международном масштабе в этой сфере и начинается «война миров». Но пока речь идет о главенстве человека и зависимости от его решений. Поэтому пока ИИ используется как помощник, ему не стоит слепо доверять и следовать по указке, так как в ином случае мы превратимся в простого потребителя без собственного мнения.
— Мир будущего глазами ученого. Каким он будет через 10 — 30 лет?
— От технологий никуда не деться. То, что мы сейчас называем элементами искусственного интеллекта скоро у нас будет действительно везде. Конечно, он кардинально изменит жизнь. Уже видно, как стремительно меняется система образования и обучения. Наша молодежь и дети совершенно по-другому воспринимают действительность. С этим надо смириться и не говорить — а вот мы читали то, смотрели то, делали так. Они сейчас совершенно другие, с этим нужно работать. Важная задача в обучении — всё-таки помогать становиться личностью, не отдавать это на откуп технологиям. Самое сложное будет сейчас — сохранить свою идентичность, личность, уникальность.
Системы искусственного интеллекта, которые будут везде — от бытовых вещей и заканчивая наукой — бесспорно станут оказывать влияние на нашу жизнь. Возможно, часть людей превратится в какое-то безликое «стадо», это надо признать, потому что легкость и доступность, которую дает искусственный интеллект, будет формировать бездумное потребление.
Людей не желающих развиваться, ИИ может затормозить и привести к деградации. Но в этой теме сейчас очень много «пены», фантастики, все зависит от человека. Кроме того, что он станет оператором ИИ, важно не утонуть и не погрязнуть, учиться постоянно, оставлять за собой уникальность. На этом пути мы получим большой интеллектуальный прирост. Ну а то, что мир изменится — это надо признать.
Мир скоро почти весь будет оцифрован, поэтому информационные системы будут определять все сферы жизни
— Если уже заговорили о детях и обучении, как считаете, чему сейчас стоит учиться, принимая во внимание развитие ИИ? Куда идти абитуриентам, какие специальности выбирать?
— Все инженерные специальности будут очень востребованы. Потому что технологии будут требовать новых инструментов и новые производства. Тот же смартфон скоро изменится и потребуются новые технологии и материалы. Поэтому инженерные и научные области будут очень популярны.
— Расскажите, а как вы выбрали стезю ученого и легко ли быть женщиной-ученым?
— Я не мужчина, но я не вижу разницы. Вот никогда я не чувствовала разницы между женщиной и мужчиной в науке. Есть научный результат, а кто его произвел, создал — женщина или мужчина — отличия нет. Я никогда не ощущала это различие в своей работе.
Почему вдруг я занялась искусственным интеллектом — это, наверное, определил все же счастливый случай. Я закончила Ленинградский Политехнический институт. Сама из Владивостока и решила вернуться домой в любимый город. Тогда была система распределения. У меня было три варианта — Институт Автоматики и процессов управления , Институт проблем морских технологий и кафедра прикладной математики Политехнического Института,. Я выбрала Институт Автоматики и процессов управления. Я тогда даже помыслить не могла о том, чтобы заниматься искусственным интеллектом. То время в науке было точно не «оттепелью», а «зимой» ИИ. Когда я попала сюда, руководитель Александр Сергеевич Клещев был настолько увлечен наукой, так интересно рассказывал, что и меня это увлекло. Теперь я благодарю судьбу, что сложилось именно так. Но роль личности, наставника — огромна в этом выборе.
Сейчас в науке много женщин. Многое зависит от области изучения — в какой-то сфере у нас больше мужские коллективы, в других — женские. Но гендерный вопрос никогда не стоял в повестке и никогда проблемой не был.
— Чем сейчас может гордиться ваш Институт?
— У нас институт очень уникальный и многопрофильный. Обычно институты проводят моно-исследования в какой-то области. У нас же очень широкий спектр различных направлений и в каждом есть свои бесспорные лидеры, о которых можно много и долго рассказывать. Если касаться области информационных технологий, то интересные исследования проводят и лаборатория интеллектуальных систем, и лаборатория математического моделирования. Последняя прогнозирует популяции, как будут развиваться определенные процессы в живых системах. Лаборатория компьютерной графики занимается машинным зрением и различными аспектами, связанными графикой и робототехникой. У нас есть центр Спутникового мониторинга ДВО РАН, их основное направление исследовательских работ — извлечение из спутниковой информации различных физических параметров суши, океана, атмосферы. У нас занимаются оптикой, лазерной физикой, создают новые материалы для микроэлектроники. Ведутся исследования и по направлению робототехники и управления. В институте находится вычислительный центр ДВО РАН — по мощности суперкомпьютеров мы вошли в российский топ-50. Можно рассказывать часами об исследованиях и исследователях, но это лучше сделают сами руководители своих направлений. Поэтому я действительно горжусь, что работаю в этом институте. Тут много уникальных, талантливых и интересных людей.
Знакомство с искусственным интеллектом
. Если компьютеры когда-нибудь научатся имитировать людей во всех наблюдаемых отношениях, то мы будем вынуждены рассматривать их как обладающих сознанием, в точности по тем же причинам, по которым мы рассматриваем окружающих нас людей как обладающих сознанием.
Скотт Ааронсон. Квантовые вычисления со времен Демокрита
Наше внимание лучше бы направить на понимание и нейтрализацию нашего собственного страдания — это касается философии, равно как и когнитивной нейробиологии и области искусственного интеллекта. До тех пор, пока мы не станем существами более счастливыми, чем были наши предки, нам следует отказаться от любой попытки навязать структуру нашего ума системам с искусственным носителем.
Томас Метцингер. Наука о мозге и миф о своем Я. Тоннель Эго
Какие ассоциации у вас вызывает выражение «искусственный интеллект»? Киборги, восстание машин, сингулярность, квантовый компьютер, умный дом, беспилотные автомобили, чипирование? А какие эмоции? Страх за свое будущее, за свое рабочее место, трепет перед беспристрастным компютерным судьей или даже божеством? Восторг и любопытство, желание понять или даже творить? Какие образы мы почерпнули из массовой культуры и разговоров дилетантов, а какие действительно соответствуют тому, чем они вызваны, — мыслящей машине? Может ли вообще машина обладать интеллектом? Почему мы не сомневаемся в том, что человек a priori им обладает? Так много вопросов, но уже можно достоверно утверждать, что искусственный интеллект окажет решающее влияние как на историю человечества в целом, так и на жизнь каждого из нас. Давайте искать ответы вместе – в математике, информатике, искусстве, философии и истории! Мы также изучим прогнозы футурологов, предпринимателей-визионеров, аналитиков и выработаем свое собственное понимание этого явления, которое на наших глазах меняет все, к чему мы привыкли.
Любое исследование требует прежде всего прояснения основных терминов – используя их, мы должны быть уверены в том, что понимаем под ними одно и то же. Первый шаг отнюдь не прост – необходимо разобраться в том, что такое собственно интеллект и мышление. Для понятия «интеллект» существует множество определений, которые сводятся к тому, что это способность к абстрактному мышлению, логическим операциям, анализу и рассуждениям, поиску связей и закономерностей, обучаемости, быстрому восприятию информации и, самое главное, к решению задач (проблем, требующих решения). Кроме того, с интеллектом связаны понятия «ум» и «разум», а также когнитивные способности, память, речь, способность мыслить, приспосабливаться к окружающей среде, изменять ее и многое другое. Сейчас мы встречаем в разных источниках такие понятия, как эмоциональный интеллект – способность к распознанию эмоций и управлению ими и социальный интеллект – способность к эффективному взаимодействию с людьми. До какой степени машины способны овладеть интеллектом — это предмет научной дискуссии, а сегодня алгоритмы ИИ имитируют лишь некоторые аспекты нашей мыслительной деятельности. Вероятно, наш страх перед искусственным интеллектом обусловлен тем, что развитый ум дает превосходство, а значит, и власть.
Это отмечали еще античные мыслители. Платон в своем труде «Государство» заявил, что только философ может управлять государством, поскольку только он может прийти к правильному пониманию вещей. Таким образом, Платон стал основоположником идеи интеллектуальной меритократии — власти интеллектуальной элиты, что было по тем временам прорывной идеей. Аристотель, ученик Платона, в своем труде «Политика» писал: «Ведь властвование и подчинение не только необходимы, но и полезны, и прямо от рождения некоторые существа различаются [в том отношении, что одни из них как бы предназначены] к подчинению, другие — к властвованию». Не боимся ли мы занять в этой иерархии самые нижние места? Декарт считал, что разум присущ исключительно человеку, но не животному, – наследие христианства. Таким образом, разумом в декартовском понимании машина обладать не сможет. Так, постепенно, формировалась идея о том, что разум является неотъемлемым качеством человека. По Канту, существа, не способные к мышлению, имеют «только относительную ценность как средства и называются поэтому вещами». Казалось бы, к чему сейчас этот разговор? Дело в том, что философия всегда влияла на мировые политические события – ведь колониальные завоевания велись под лозунгами борьбы с неразумными, ничего не смыслящими существами. Дискуссия об интеллекте продолжается — существует точка зрения, согласно которой интеллект может быть только биологическим феноменом. А механицизм (механизм), или механистический материализм, видит мир как один большой механизм – и никаких противоречий, мы же и сами биологические машины! Так является ли фраза «искусственный интеллект» оксюмороном, или, может быть, нам пора признать, что не мы одни способны мыслить, и подвинуться на нашем пьедестале? А может, стоит пойти по пути сращивания искусственного и биологического интеллекта, получив в результате совершенно нового человека с невообразимыми возможностями.
Одно из частных определений интеллекта, общее для человека и машины, можно сформулировать так: «Интеллект — способность системы создавать в ходе самообучения программы (в первую очередь эвристические) для решения задач определенного класса сложности и решать эти задачи» (Ильясов Ф. Н. Разум искусственный и естественный // Известия АН Туркменской ССР, серия общественных наук. 1986. № 6. С. 46—54). Интересно знать, что в английском языке отсылка к человеческому интеллекту в термине artificial intelligence несколько смягчена – для обозначения способности к мышлению и объективному пониманию существует слово intellect. Intelligence же понимается как способность приобретать знания и навыки. Таким образом, машина сейчас вполне может обладать intelligence, ведь одним из основных средств искусственного интеллекта является машинное обучение – процесс автоматического обучения системы на данных без непосредственного программирования решения этой задачи.
Кто и когда впервые заговорил об искусственном интеллекте? Что послужило творческим импульсом? Лень, как это часто бывает, или большая мечта, а может, всё и сразу.
Сам термин «искусственный интеллект» появился в 1956 году, когда был использован Джоном Маккарти на конференции в Дартмутском университете. Его авторству принадлежит первый язык программирования для задач ИИ – Lisp, а кроме того, он же заложил основы функционального программирования. Поясняя свое определение, Джон Маккарти указывает: «Проблема состоит в том, что пока мы не можем в целом определить, какие вычислительные процедуры мы хотим называть интеллектуальными. Мы понимаем некоторые механизмы интеллекта и не понимаем остальные. Поэтому под интеллектом в пределах этой науки понимается только вычислительная составляющая способности достигать целей в мире». Сейчас искусственный интеллект определяют как свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека.
Также назову имя другого пионера искусственного интеллекта – это Марвин Минский, автор идеи фрейма (70-е годы), изобретатель, популяризатор науки и к тому же интереснейший автор. Совместная книга М. Минского и Гарри Гаррисоном «Выбор по Тьюрингу» (“The Turing Option”) — одна из лучших фантастических книг об искусственном интеллекте. Минскому принадлежит вся научная составляющая этого романа.
Предпосылки для развития науки об искусственном интеллекте создались гораздо раньше середины XX века. Вероятно, вам будет интересно узнать, что коллежский советник Семен Николаевич Корсаков (1787—1853) впервые поставил задачу усиления возможностей человеческого разума посредством разработки научных методов и устройств – вполне в духе современного понимания искусственного интеллекта. В 1832 году С. Н. Корсаков опубликовал описание пяти изобретенных им механических устройств, так называемых интеллектуальных машин, для частичной механизации умственной деятельности в задачах поиска, сравнения и классификации. В конструкции своих машин Корсаков впервые в истории информатики применил перфорированные карты!
В 1910—1913 гг. Бертран Рассел и А. Н. Уайтхед опубликовали работу «Принципы математики», основной идеей которой была сводимость математики к логике. Этот знаковый труд критиковали за претенциозную задачу описать суть математики, что не помешало работе дать мощный импульс развитию формальной логики.
В 1943 году Уоррен Мак-Калок и Уолтер Питтс опубликовали A Logical Calculus of the Ideas Immanent in Nervous Activity – фактически это основы теории нейронных сетей. Примерно в те же годы немецкий инженер Конрад Цузе сконструировал первый программируемый компьютер. Так стали появляться технические возможности для воплощения Идеи, которая уже буквально витала в воздухе.
Теперь самое время перечислить основные труды непосредственно по искусственному интеллекту, которые необходимо знать любому исследователю, имеющими с ним дело. В 1943 году в статье «Логическое исчисление идей, относящихся к нервной активности» У. Мак-Каллок и У. Питтс предложили понятие искусственной нейронной сети – ему мы посвятим отдельный разговор. В их статье впервые была описана модель искусственного нейрона.
Д. Хебб в работе «Организация поведения» 1949 года изложил основные принципы обучения нейронов. Далее важнейшая веха — американский нейрофизиолог Фрэнк Розенблатт стал автором устройства, моделирующего процесс человеческого восприятия, и назвал его «перцептроном». Говоря конкретно, эта модель имитировала работу человеческого глаза и могла различать буквы алфавита, однако результативность зависела от манеры написания. Думаю, что любой специалист по искусственному интеллекту когда-то программировал сеть из одного перцептрона, и вряд ли ошибусь, если скажу, что дело было на Python, хотя моя первая нейронная сеть была написана на Java.
В конце 50-х годов была создана модель лабиринтного поиска для нахождения оптимального пути по графу, но в первых учебниках по искусственному интеллекту эти программы не решают практические задачи, а просто пока развлекаются — играют в игру «15», собирают «Ханойскую башню», играют в шашки и шахматы.
А что же в СССР? Ведь при наличии серьезных наработок по математической статистике, теории вероятности, линейной алгебре и дифференциальному анализу – основных математических методов «под капюшоном» ИИ — не могло не возникнуть условий для развития этой молодой науки, верно. Обратимся сначала к фактам. 1954 год. Отправная точка истории искусственного интеллекта в нашей стране – тогда в МГУ начал свою работу семинар «Автоматы и мышление» А. А. Ляпунова , одного из основателей отечественной кибернетики. В нем приняли участие ведущие физиологи, лингвисты, психологи, математики – то есть уже в то время у нас практиковали системный подход к этой проблематике.
Так же как и за рубежом, наметились два основных направления – нейрокибернетика (изучение закономерностей функционирования нейронов и нейронных образований) и кибернетика «черного ящика» (неважно, как устроено мыслящее устройство, лишь бы оно на входящие стимулы реагировало подобно человеческому мозгу). В 1957 году выдающиеся советские математики А. Н. Колмогоров и В. И. Арнольд доказали теорему, согласно которой любая непрерывная функция нескольких переменных может быть представлена в виде комбинации конечного числа функций меньшего числа переменных. Данное доказательство позволило позже математически обосновать построение нейронных сетей фиксированной размерности с прямыми связями с определенным количеством «нейронов» на слоях ввода и вывода и активационными функциями. А тем временем в Ленинграде велась работа по автоматизации решения логических задач, для чего была создана программа АЛПЕВ ЛОМИ (Ленинградского отделения математического института им. Стеклова), которая занималась автоматическим решением теорем. Целое созвездие новых ярких имен засияло в новой науке в то время: М. Л. Цетлин, В. Н. Пушкин, М. А. Гаврилов, и уже можно было говорить о советской школе ИИ.
60-е годы – это взлет эвристического программирования. Эвристика – это алгоритм решения задачи, который включает практический метод, не являющийся гарантированно точным или оптимальным, но достаточный для данной задачи. В СССР среди наиболее значимых результатов, полученных учеными в 60-е годы, можно отметить алгоритм «Кора» М. М. Бонгарда, моделирующий деятельность человеческого мозга при распознавании геометрических образов. Программа «Кора» нашла применение, в частности, для распознавания нефтеносных пластов и вошла в русскоязычные учебники и курсы.
Рассказывая о тех временах, надо особо упомянуть Д. А. Поспелова – родоначальника ИИ в СССР и основоположника научной школы ситуационного управления (соответствует представлению знаний — knowledge representation в западной терминологии), которая развивалась в нашей стране с середины 60-х годов. Любая ситуация в мире (в данном случае управленческая задача) могла быть описана как реляционная модель с помощью конечного числа базовых отношений, из которых возникали, в свою очередь, производные. Идеи Поспелова широко применялись на практике в индустрии, а его научная деятельность способствовала популяризации искусственного интеллекта в СССР и «реабилитации» кибернетики, против которой в 50-е годы была развернута целая кампания из-за якобы отождествления работы мозга с работой машины, а общественной жизни — с системой электро- и радиокоммуникаций и направленности «против материалистической диалектики, современной научной физиологии, обоснованной И. П. Павловым». «История информатики в нашей стране (сначала СССР, а затем России) насыщена драматическими коллизиями и резкими изменениями приоритетов», — писал Поспелов в статье «Становление информатики в России», вошедшей в сборник «Очерки истории информатики в России». За годы работы Поспелов написал 20 монографий и более 300 статей, многие из его книг переведены на иностранные языки.
Понадобилось время, чтобы наука об искусственном интеллекте получила наконец научное признание. Только в 1974 году при Комитете по системному анализу при президиуме АН СССР был создан Научный совет по проблеме «Искусственный интеллект». (Справедливости ради надо сказать, что и на Западе после доклада британского ученого Лайтхилла – математика, никогда не имевшего дело с ИИ, — науке устроили разнос и урезали финансирование, отбросив исследования назад. Британские ученые. ) В 1988 году в СССР была создана АИИ – Ассоциация искусственного интеллекта, объединившая лучших экспертов страны, а ее президентом стал Д. А. Поспелов. В 80-х годах скорость и быстродействие компьютеров уже перестали быть проблемой для исследователей. К сожалению, последующие события предсказуемым образом повлияли на развитие науки, о которой идет речь. Сейчас развитие искусственного интеллекта признается одним из приоритетных направлений в отечественной науке, хотя до сих пор наблюдается отставание от мировых флагманов на 3-5 лет.
Эта статья – первая в образовательной серии «ИИ 101. Что надо знать, прежде чем сесть за код». Мы разъясним основные понятия и термины, развеем мифы, почитаем прогнозы футурологов, разберемся в основных направлениях ИИ и вообще будем снижать уровень энтропии. Не боритесь с трудностями в одиночку – ведь в изолированных системах энтропия не уменьшается. До встречи!
Автор: Елена Коршунова — компьютерный лингвист, PhD student (National Taiwan University of Science and Technology, AI lab).