Где проходят границы применения искусственного интеллекта и можно ли доверить ему принятие решений там, где на кону безопасность, деньги и человеческие судьбы — в частности, в госсекторе, промышленности и девелопменте? Об этом на реальных примерах и собственном опыте рассуждали участники дискуссионного шоу «Красная зона ИИ: технология готова — готовы ли мы?», которое прошло в рамках форума «Цифровые решения». Билайн на шоу представлял Константин Романов, директор по искусственному интеллекту и цифровым продуктам компании.
Госсектор: «ИИ — это второе мнение, первое — всегда человек»
В ходе первого раунда, посвященного ИИ-зации государственных учреждений, лагерь оптимистов привел в пример британский эксперимент, где 20 000 госслужащих с помощью ИИ смогли экономить в среднем 26 минут в день. Алармисты парировали данными из Франции: там 74% чиновников считают, что ИИ не может выполнять их работу, а 45% никогда им не пользуются.
В России ситуация иная, заявила Марина Ким, депутат Госдумы, член комитета по цифровому развитию и ИИ. Чиновники моложе и продвинутее, чем принято считать, а «Госуслуги» уже 17 лет являются примером суверенного цифрового сервиса. По её словам, за ИИ всегда остается только второе мнение, а первое всё-таки отдается человеку, который принимает судьбоносное решение. Эмпатия, мораль и ценности — то, что отличает человека от машины, подчеркнула она — и задачи работы с людьми, где они оказываются критически важны, невозможно делегировать ИИ.
В продолжение темы Алексей Лукацкий, евангелист Positive Technologies, отметил важность выработки механизмов безопасности персональных и чувствительных данных, в том числе относящихся к гостайне — причём как можно быстрее. По его мнению, переход от «человеческих» скоростей к «машинным» уже начался, и когда эта грань будет перейдена, остановиться будет невозможно. Марина Ким его пессимизма не разделила: по её убеждению, государство успешно развивает свои модели, имеет все возможности для построения цифрового суверенитета и безопасного пространства.
Промышленность: «ИИ за заборчиком»
Второй раунд начался с описания кейсов применения ИИ в промышленности. Кейс из Китая, где ИИ научился управлять 200 параметрами производства серной кислоты и сократил 3500 ручных операций в день до нуля, прозвучал впечатляюще. В ответ алармисты напомнили об австрийском стресс-тесте: модель верно диагностировала неисправность, но в 7 из 10 случаев предлагала опасные действия.
Алексей Тестин, директор департамента технологических инноваций «Норникеля», рассказал, как трехступенчатая модель внедрения — «ИИ видит, ИИ советует, ИИ управляет» — помогает избежать опасных эксцессов. По его словам, на обогатительных фабриках компании уже несколько лет работает третья ступень — с экономическим эффектом порядка 10 млрд руб. в год. Залогом безопасности здесь становится отсутствие прямого доступа к агрегатам для ИИ и система, в которой именно человек задает технологические границы — и это задачи в первую очередь инженерные, не связанные с совершенствованием алгоритмов.
ИИ — это не только большие языковые модели, добавил Вадим Желтухин, директор по информационным технологиям «Алроса». Компьютерное зрение и машинное обучение уже давно и безопасно работают в промышленности — в частности, в контроле загрузки самосвалов, которая даёт +11% к эффективности, и в комплексном контроле спецодежды, который сберегает здоровье и жизнь множества людей.
Недвижимость: пилоты, которые не становятся системой
Третий раунд стал самым близким к теме цифровых продуктов. Олег Тихонов, директор по информационным технологиям группы «Самолёт», объяснил сложности пилотирования ИИ в своей отрасти: девелоперский цикл длится от трех до десяти лет, данные накапливаются в разном состоянии, а тиражирование технологий оказывается затруднено. Поэтому, несмотря на то, что проникновение ИИ в целом достаточно хорошее, его нельзя назвать равномерным.
При этом есть немало кейсов, когда ИИ приносит застройщику реальные деньги — продолжил Константин Романов, директор по искусственному интеллекту и цифровым продуктам Билайна. Они в меньшей степени затрагивают фазу строительства и больше касаются работы с объектами на этапе обслуживания клиента.
«Представьте человека, который продает квартиры, — привёл он пример. — Удержать в голове все объекты: чем они различаются, где видно реку, где двор, сколько комнат, где школа, на какие квартиры есть скидки — почти нереально. И здесь ему на помощь приходит ИИ. Он, как губка, впитывает всю информацию, анализирует рассказ клиента о себе и формулирует подсказки для продавца и конкретные предложения в процессе диалога. На практике это в два раза сократило время разговора и на 20% повысило конверсию в покупку жилья».
По словам Константина Романова, прочитать и свести все данные из большого количества разных систем — это не простая, но решаемая задача. Поэтому важно именно на этапе внедрения привлекать квалифицированных специалистов. Но успешные кейсы давно уже не единичны, то есть отрасль дозрела, и цифры на уровне триллионов рублей вполне достижимы. А ИИ в этой связи полезен тем, что позволяет драматически снизить стоимость экспериментов.
«Многие эксперименты с ИИ сейчас не приносят успеха — во многом потому, что люди, которые этим занимаются, делают это в первый раз и только нарабатывают нужные компетенции, — уточнил Константин Романов. — Но если правильно выстроить процесс экспериментирования в компании и при этом научиться правильно измерять эффект, прибыль от 20% успешных экспериментов, которые взлетели и принесли миллиарды, с лихвой перекроет потери от 80% неуспешных».
Как показала дискуссия, технология действительно есть, но готовность использовать её в полной мере — вопрос не только и не столько технический, сколько управленческий и культурный. И Билайн, который уже превращает пилоты в работающие решения, судя по всему, находится в авангарде этого процесса.
