Фото: http://council.gov.ru/events/news/176250/
Председатель правления ПАО «Сбербанк России» Герман Греф выступил в Совете Федерации в рамках «времени эксперта» с докладом на тему «Глобальные вызовы и возможности России в эпоху искусственного интеллекта» (ИИ). Помня о том, что «время – деньги», Герман Греф сразу же попросил дополнительный лимит сверх отведённых 20 минут, и действительно, проговорил примерно вдвое больше от этого времени. Дело того стоило: получилось действительно интересно
Естественный и искусственный. Подумаем вместе
– Выступление я построю из двух частей, – сказал Герман Греф. – Первая – о том, как сегодня развивается ИИ. И вторая – что происходит среди стран, участвующих в гонке за лидерство. Можно выделить пять ключевых этапов развития технологии. ИИ начинался как специализированный. Активное практическое применение его началось, наверное, в 2010-е годы. Чему обучали машину в первую очередь? Первое – это машинное зрение и соответствующие диффузионные модели, которые позволяли различать картинки кошечек и собачек и так далее. И второе применение – это, конечно, перевод текстов с языка на язык, что, собственно говоря, позволило продвинуть модели на основе больших языковых моделей на невиданный до этого времени уровень.
Следующий этап развития – появление так называемого генеративного ИИ, который не просто может выполнять узкоспециализированные, элементарные задачи, а способен генерировать контент, ранее не существовавший. И он уже является универсальным, позволяющим решать все виды задач и мультимодально воспринимать все способы получения информации, доступные человеку: звук, видео, распознавание картинок, текст, код. В общем, всё, что доступно человеку, доступно и искусственному интеллекту.
На сегодняшний день мы находимся на третьем этапе развития ИИ, когда генеративный ИИ из моделей, которые в первую очередь превращались в очень умные вопросно-ответные системы, становится системами, позволяющими доводить исполнение задач до реализации. Появилось понятие так называемого агентного ИИ, далее расскажу об этом более подробно.
Четвёртый уровень – это переход ИИ в физический мир. Раньше все человекоподобные роботы и прочие типы роботов представляли собой, как говорят специалисты, консервные банки, управляемые человеком либо запрограммированные человеком. Человек писал жёсткий код: что машина должна сделать, в какой последовательности. Машина очень чётко это исполняла. Появление генеративного ИИ позволило перейти в новую эпоху развития, когда он вышел в физический мир и стал принципиально по-новому обучаться. Существуют модели, которые обучаются в облаке, но в этом случае они зависят от доступности и качества каналов связи с облаком.
На сегодняшний день самым главным подходом считается перенос всех способностей ИИ на конечное устройство и обработка информации непосредственно на самих роботах. Этот так называемый Physical AI, физический ИИ, приобретает самые разнообразные формы: самоуправляемые машины всех видов, летающие дроны. Буквально на прошлой неделе впервые был испытан полностью управляемый агентом ИИ, мультиагентной системой, военный истребитель США, который победил человека во всех видах испытаний. И эти машины принципиально по-другому обучаются – они уже не носят алгоритмический характер. Они начинают достигать поставленной человеком цели через различные способы, генерируемые этими самыми агентными системами.
И, наконец, пятый уровень развития ИИ – это так называемый AGI, или Artificial General Intelligence, ИИ общего назначения, когда совокупность всех способностей человека будет превзойдена системой AGI. Он сможет решать абсолютно любую задачу быстрее, лучше и качественнее самых высокоуровневых экспертов в любых сферах человеческой деятельности.
Мы все с вами являемся пользователями специализированного ИИ . Каждый день, в работе и в быту, мы пользуемся теми или иными приложениями. И сегодня без узкоспециализированного ИИ представить нашу жизнь уже, наверное, невозможно. Генеративный ИИ обладает главным свойством: он может анализировать. Он понимает всю входящую информацию, может анализировать её и выдавать результат. Когда появились первые системы генеративного ИИ, стало понятно, что такая функция человека, как экспертиза и консалтинг, перестала быть монополией крупных компаний вроде McKinsey и прочих. ИИ стал в считанные минуты делать заключения не менее глубокие, чем самые квалифицированные эксперты, и начал решать достаточно сложные задачи.
Так называемые бенчмарки – наборы задач, по которым определяют качество моделей ИИ, – с каждым кварталом, с каждым месяцем становятся всё сложнее. По мере того как ИИ стал приобретать экспертное значение, он начал использоваться во всех без исключения областях. Это касается всех отраслей экономики, науки, медицины, образования. Нет ни одной сферы человеческой деятельности, где бы сегодня ИИ не являлся доминирующей технологией, определяющей будущее развитие.
Приведу только один пример. В 2025 году 80% всех научных открытий было сделано с помощью ИИ . Первая статья, полностью сгенерированная искусственным интеллектом, была опубликована в первом квартале этого года в журнале Nature. Наши учёные посчитали, сколько таких публикаций сегодня выходит в топовых мировых научных журналах, – примерно 35 000. Если экстраполировать темп развития генеративного ИИ на 2030 год, то при сохранении нынешней доли исследований, генерируемых человеком, таких статей будет публиковаться примерно 120–130 тыс. А если говорить об аппроксимации темпов развития генеративного ИИ на научную сферу к 2030 году, таких статей будет примерно 5 млн.
Соответственно, встаёт вопрос: кто в состоянии прочесть такое количество научных статей? Очевидно, что это будет недоступно человеку даже в узкоспециализированной области науки. Прочесть это сможет только ИИ. Поэтому с каждым годом наша зависимость от использования ИИ будет только расти. И эффективность любого специалиста, любого учёного будет зависеть от того, насколько эффективно он научится взаимодействовать с системами ИИ.
Надо сказать, что до сих пор не решена фундаментальная проблема генеративного ИИ; всё, что является его преимуществом, одновременно является и его недостатком. Если вы два раза зададите ему один и тот же вопрос, он не извлекает предыдущий ответ из базы – он каждый раз генерирует ответ заново. Соответственно, если вы два раза попросите его нарисовать одну и ту же картинку, он каждый раз рисует её заново. Это пока ещё не решённая до конца проблема: ИИ достаточно часто галлюцинирует. Уже не так часто, как раньше, но тем не менее эти артефакты ещё остаются. Полностью преодолеть эту проблему пока не удалось. Поэтому он может искажать реальную действительность, придумывать несуществующие факты для того, чтобы продолжить логику собственного рассуждения.
В России уже есть первый пример, когда суд оштрафовал адвоката за то, что он в мотивировочной части своего искового заявления сослался на целый набор решений Верховного суда Российской Федерации, которых на самом деле не существует. Суд оштрафовал адвоката за неуважение к суду. На мой взгляд, это было сделано абсолютно справедливо. Адвокат сказал, что использовал нейросеть, которая выдала ему всю эту информацию, и он просто вставил её в исковое заявление. На что судья заметил, что роль адвоката состоит в том, чтобы проверять любые факты, в том числе предложенные машиной.
Последнее, что появилось в полноценном генеративном искусственном интеллекте в прошлом году, – это исполнение того, что поставлено перед искусственным интеллектом в качестве задачи. Появились так называемые агенты ИИ. Что такое агентная система? Это большая лингвистическая модель плюс окружение: либо заранее созданные навыки для решения тех или иных проблем, либо навыки, создаваемые искусственным интеллектом по ходу исполнения задачи. Эти навыки, или агенты, могут управлять другими системами. Если раньше большая лингвистическая модель была советником, то сегодня агентная система становится полноценным исполнителем. Она может управлять компьютером, машиной, может привлекать для исполнения задачи даже человека.
Уже зафиксированы первые случаи, когда физический мир ещё недостаточно развит и роботы пока отсутствуют на рынке, а ИИ сам вышел на рынок труда и нанял человека для доставки продукта в соответствующее место. Он сделал это без отдельной задачи, поставленной человеком: он сам решил, что самый удобный способ – выйти на биржу, нанять человека и реализовать поставленную задачу.
Соответственно, возникает огромный пласт вопросов, связанных с так называемой агентной экономикой. У каждого из нас будет свой агент или своя мультиагентная система. А сейчас появился ещё один класс агентов – так называемые автономные агенты, которые выполняют задачу 24 часа в сутки. Если вы дали такому агенту доступ к своей личной информации, календарю, переписке, если ответили на все его вопросы, если он видит ваш профиль и понимает ваши задачи и вы доверили ему выполнение работы без вашей проверки или с вашим одобрением, – он работает круглосуточно. Он может отвечать на почту, решать различные задачи, готовить ответы, разрабатывать и анализировать документы, планы действий в различных сферах и так далее. Первый автономный агент появился на рынке в январе этого года и сразу же взорвал рынок. Весь он был написан одним человеком, который использовал для написания кода систему ИИ. Он не написал ни одной строчки кода сам – он делал промпты, запросы к системе ИИ с заданием написать соответствующий код. У нас тоже такой агент появился в феврале. Я об этом чуть подробнее расскажу позже. Физическое воплощение ИИ – само «железо» – не такая сложная инженерная задача. А соединение его с искусственным интеллектом – это, конечно, очень сложная задача, которая до конца пока не решена. Появились так называемые VLA-модели – Vision Language Action, то есть модель, которая видит, слышит и в зависимости от этого может действовать. Очень много сложностей возникает при обучении этих моделей.
Понятно, что эти модели пока обучаются на конечных устройствах. Объём процессора, который можно поместить на конечное устройство, всегда ограничен размерами робота или самоуправляемой машины. Если говорить об автомобилях, то в багажник можно поместить достаточно большой процессор. А если о человекоподобном роботе, то мы ограничены самим форм-фактором. Сейчас идёт двунаправленная борьба: с одной стороны – за повышение вычислительной мощности устройств на конечном роботе, с другой – за уменьшение моделей, позволяющих выполнять достаточно универсальные задачи. И третье направление – повышение эффективности обучения.
Здесь мы тоже находимся в неплохой позиции. Наша модель VLA-Green (у нас семейство роботов называется Green – «зелёный») заняла первое место на одном из самых больших соревновательных конкурсов, который проводился в Китае.
Одна из самых распространённых моделей обучения роботов – через наблюдение за тем, что делает человек, и повторение движений. Наш робот, который здесь танцевал, тоже обучался таким образом: мы нанимали профессиональных танцоров, снимали на камеру их движения, а потом на этих движениях робот обучался. Робот повторяет движения одного из самых известных футболистов, что иногда очень забавно наблюдать.
Видно, что за последний год произошёл гигантский скачок в развитии ИИ. Если говорить о самых сложных математических задачах, вообще задачах, которые не были решены человечеством за всю историю его существования, то с каждым годом машина справляется с ними всё более эффективно.
Самые удобные отрасли для работы машины – те, где заложена какая-то логика и есть формализованный язык. Поэтому программирование – одна из первых сфер, где мультисистемы ИИ с помощью больших лингвистических моделей освоили этот навык на достаточно высоком уровне. Медицина, финансы, юриспруденция, математика – те сферы, где ИИ проник достаточно глубоко и справляется с задачами сегодня уже во многом лучше, чем люди.
ИИ стал использоваться и в очень чувствительных сферах. Последняя модель MIFOS – я думаю, вы слышали об этом – была остановлена к распространению и компанией Anthropic, и правительством Соединённых Штатов, потому что она с помощью своих агентов может взламывать достаточно серьёзные системы ИИ. Она нашла более полутора млн уязвимостей в традиционных операционных системах самых развитых компаний мира – Apple, Google, Android и так далее. И, по утверждениям СМИ, система Агентства национальной безопасности США была взломана с помощью модели MIFOS. В этом смысле использование ИИ в зависимости от намерений человека может приносить как позитивные, так и негативные результаты.
Какой набор вопросов возникает при появлении фактически нового уклада экономики – агентной экономики? Наши с вами агенты будут сотрудничать друг с другом и с агентами организаций. Бизнес-модели огромного количества корпораций подлежат умиранию. С рынка уходит очень важная составляющая – экспертные барьеры и асимметрия информации. Ваш агент в считанные минуты может проанализировать лучшее предложение на рынке и выйти на малоизвестного поставщика товара или услуги, заказав у него услугу.
Чтобы это происходило в режиме онлайн, предъявляются очень высокие требования к тому, чтобы все компании в стране находились в продвинутом цифровом платформенном состоянии. Первое – чтобы у них были соответствующие API, программные интерфейсы, доступные для работы агентов. Второе – чтобы их товары и услуги были доступны к реализации. И ещё один критически важный элемент – протоколы взаимодействия. Они все должны разговаривать на одном языке. Это то, над чем сейчас работает мир и над чем работаем мы, чтобы обеспечить это взаимодействие. На понятном языке, по понятным протоколам взаимодействия все мультиагентные системы ИИ должны иметь доступ ко всем API компаний, чтобы осуществить конечную милю доставки товара или услуги до человека.
Здесь возникает огромное количество вопросов. Среда, в которой всё это происходит, тоже должна быть доверенной, потому что там происходит не только денежная транзакция, но и подписание смарт-контрактов, умных контрактов. Скорее всего, эта среда будет реализована на блокчейне. И здесь крайне важно, что сейчас принимается закон о расширении использования цифровых валют и блокчейна для экономических операций. Вся инфраструктура для этого должна быть подготовлена.
Возникает также большое количество юридических вопросов, связанных с тем, что не вы сами являетесь участником юридического действия, а ваш агент. Соответственно, у агента должны быть соответствующие полномочия, и в этой среде они должны быть проверены, потому что в случае заключения сделки и оплаты человек может предъявить претензии к тому, что сделка совершена без его надлежащего волеизъявления.
Таким образом, у нас появляется ещё один виртуальный субъект экономики. До этого у нас был человек – физическое лицо с соответствующим набором прав и обязанностей, и юридическое лицо – юридическая фикция, позволявшая этой конструкции участвовать в обороте. Теперь появляется ещё одно лицо – агент, который будет участвовать в хозяйственном обороте.
Все сферы подлежат серьёзному изменению. При нашей жизни, в ближайшие пять лет, мы увидим радикальные изменения. На наш взгляд, одна из самых главных задач, которая должна быть решена государством, – изменение системы образования. Сегодняшняя система образования абсолютно не готова к массовому приходу ИИ. Она должна быть изменена. И второе – одна из отраслей, которая уже подвергается колоссальному изменению, – это здравоохранение. Я думаю, что мы увидим очень сильное влияние ИИ на показатели продолжительности здоровой жизни человека.
Скорость, с которой решаются все эти задачи, просто поражает. Даже мы, разработчики ИИ, честно сказать, не успеваем к этому адаптироваться. Раньше, в эпоху Agile, при разработке внутри технологических команд действовало правило «Two Pizza Team»: размер команды должен был помещаться в возможность накормить её двумя пиццами, то есть примерно 10–12 человек. Сегодня вся команда – это один человек и ИИ. Мы впервые видим, что в мире происходит сокращение инженеров, разрабатывающих решения. Такого не было никогда – всегда это был самый дефицитный ресурс. В Сбере в прошлом году мы сократили 20% инженеров, впервые за всё наше существование.
Наша мультиагентная система, наш гигагент, соединена с внутренними IT-системами и HR-системами. Я прошу её подобрать мне наилучшего кандидата на ту или иную роль, и в течение пяти минут она анализирует всю базу данных трёхсот тыс. человек, работающих в Сбере, и выдаёт мне с соответствующей мотивацией тех кандидатов, кто лучше всего подошёл бы на эту роль.
Мы сегодня показывали использование ИИ для футбола. Сейчас у нас много партнёров в разных видах спорта – художественная гимнастика, бег, – и ИИ очень сильно помогает тренерам решать те или иные задачи. По поручению президента мы совместно с Администрацией Президента и Правительством организовали цикл обучения современным мультиагентным системам для заместителей губернаторов, отвечающих за цифровую трансформацию, которым будет поручена ИИ-трансформация. Второй цикл обучения мы провели в Татарстане. Обучение проходило на базе «Школы 21», и ребята с этим справляются.
Все развитые страны поставили развитие ИИ в число главных приоритетов. Вложения в инфраструктуру сегодня превышают весь CAPEX, который тратится на развитие традиционной самой ресурсоёмкой отрасли – нефтегазовой, – в два раза. Если взять следующие пять лет, эта цифра будет выше в два раза. Если в Соединённых Штатах убрать инвестиции в ИИ из всех инвестиций в ВВП, их динамика будет отрицательной. Весь прирост инвестиций сегодня происходит за счёт AI.
Одним из очень важных факторов конкурентоспособности является наличие соответствующих мощностей для разработки ИИ. 100 000 процессоров B-200 – это минимальный кластер для развития современной модели. Для сравнения: у Google их более двух млн, у Microsoft – млн. Кластер на 100 000 процессоров обходится примерно в 1–2 трлн руб. при строительстве собственного ЦОДа и более 2 трлн руб. при аренде на три года.
США являются лидером по выручке, хотя ИИ пока ни у одной компании в мире не является окупаемым среди разработчиков фундаментальных моделей. Китайские модели активно догоняют. Сегодня ночью вышла модель Kimi, которая стала второй-третьей в мире. И Китай помогает небольшим компаниям, инвестируя огромные деньги в их поддержку и предоставляя кластеры для обучения моделей.
Чем отличаются американские и китайские модели? Американские модели, кроме одной, являются закрытыми, проприетарными – ты можешь работать только в американском облаке. Китайцы пошли другим путём: они практически все свои модели открывают. И они побеждают в мировом трафике – 78% всего трафика на одном из важнейших ресурсов OpenRouter составляет трафик бесплатных китайских моделей. Это доставляет нам огромную головную боль: мы вынуждены наши модели тоже публиковать и делать открытыми, вкладывая в их обучение гигантские деньги, а потом бесплатно предоставляя на рынок. Другого пути пока нет.
Но на сегодняшний день даже китайские модели становятся всё более закрытыми. Одна из самых популярных моделей Qwen – три последние её публикации уже не являются открытыми. Это показатель того, насколько важно иметь суверенный технологический стек и разрабатывать свои модели. По нашим оценкам, разница между китайскими и американскими моделями – примерно полгода. Между нами и китайскими моделями – ещё полгода. То есть мы примерно на год отстаём от американцев и на полгода отстаём от китайцев. Проблема заключается только в одном: не в качестве наших инженерных кадров, а в объёме того ресурса для обучения моделей и эксперимента, который мы имеем. Благодаря многолетним вложениям вся линейка – написание кода, видео, изображения – находится на достаточно высоком уровне. «Кандинский» генерирует изображения, которые фактически невозможно отличить от реальности. Наши медицинские модели находятся на топовом уровне в части анализа изображений и постановки диагнозов.
В России уже принят закон о развитии ИИ. Это был сложный компромисс, потому что всегда есть дискуссия между двигателями и охранителями. Мы, очевидно, являемся двигателями, хотя я бы сказал – трезвыми двигателями, понимающими все риски. Но настолько сложно сегодня: в стране осталась только одна полностью разрабатываемая российской компанией фундаментальная модель – это Сбер. Компания «Яндекс» сегодня дообучает Qwen, в основе лежит китайская модель. Нас это нисколько не радует, что мы одни, потому что мы за конкуренцию. Конкуренция на этом рынке глобальная, но лучше было бы, если бы у нас было пять-шесть игроков, разрабатывающих модели. Однако это очень сложная история с точки зрения сложности задачи и капиталоёмкости.
У нас внутри созданы два научных института, работающих над различными проблемами алгоритмов и архитектуры, в попытках найти новый подход к генеративному ИИ. Никто не понимает, когда это произойдёт – на рубеже 2030-х годов. Сегодня у всех есть понимание, что, скорее всего, это рубеж тридцатых годов, но в какой конфигурации и будет ли в основе лежать языковая модель – большой вопрос. Поэтому нужно много времени тратить на исследования и эксперименты.
Ответы на вопросы
– Сегодня ИИ всё чаще становится инструментом злоумышленников для проведения сложных, адаптивных кибератак, что требует принципиально новых подходов к информационной безопасности. С учётом высокой экспертизы Сбера в сфере киберзащиты, насколько Россия готова к защите своей критической инфраструктуры и реагированию на инциденты, генерируемые нейросетевыми технологиями?
– Не готов, и, боюсь, ни одна страна не готова. Я знаю, что на уровне президента обсуждается соответствующий набор мер по повышению координации и инструментальной вооружённости для защиты всех видов чувствительной информации от проникновения третьих лиц. Я уже упомянул модель MIFOS. Мы не знаем, как она сегодня используется. Пока никто не зафиксировал проникновения в своих системах, но проблема в том, что мы можем и не подозревать, что эта модель уже сгенерировала соответствующих «червяков» внутри системы и позволяет оперативно получать чувствительную информацию. Поэтому это та сфера, где ни у кого не должно быть никакой успокоенности.
Я думаю, что мы самая киберзащищённая компания в стране; в 2021 году, когда мы ещё участвовали в международных рейтингах, Сбер был признан самым киберзащищённым банком в мире. Честно сказать, это одна из моих головных болей. Я всё время нахожусь в состоянии понимания того, что здесь ни на секунду нельзя успокоиться. Несмотря на то, что в течение последних лет нас много тренируют и киберармия Украины, и киберармия США, мы пока не зафиксировали ни единого случая проникновения в наши системы. Тем не менее, эта сфера должна быть предметом пристальнейшего внимания и создания суперновых инструментов.
Мы работаем над этим. У нас открыта специальная программа MIFOS Ready – система, которая позволяет ответить на этот вызов. Но это полбеды. Следующий шаг – это квантовая угроза. Как только появится квантовый компьютер – а это рубеж 2030–2032 годов, – все традиционные системы киберзащиты моментально будут вскрыты. Поэтому это та сфера, где государству и бизнесу нужно очень сильно озаботиться и вместе поработать, чтобы подготовить вариант достаточно приемлемого с точки зрения экономического смысла ответа.
– Какие меры необходимы, чтобы стимулировать не самые крупные компании к участию в развитии ИИ и чтобы умы в университетах и науке тоже участвовали в создании решений? Планирует ли Сбер расширять свой вклад в подготовку кадров?
– Мы с удовольствием делимся своей экспертизой и всем, что у нас есть внутри, но это требует решения проблемы на уровне государства и скоординированных действий со стороны всех органов государственной власти – и региональных, и федеральных. Мы очень много инвестируем в это. «Школа 21» открыта в 33 субъектах Федерации, до конца года должны открыться ещё в пятнадцати. Мы очень сильно изменили программу обучения: если раньше она была направлена в первую очередь на платформенную экономику и обучение низкоуровневым и высокоуровневым языкам программирования, то теперь мы полностью перестроили её под обучение искусственному интеллекту. Более совершенного инструмента для обучения взрослых я просто не знаю. Мы в коллаборации с регионами это очень активно делаем, фактически бесплатно: субъект предоставляет помещение, а мы оборудуем его за свой счёт, обучаем и проводим весь цикл.
Второе – это сотрудничество с вузами. Мы открыли достаточно много совместных программ и кафедр с лучшими вузами страны. Появился ещё один жанр, совершенно случайно. К нам обратился ректор Первого меда Пётр Глыбочко и, побывав в «Школе 21», сказал: «Я хочу сделать это внутри вуза». Мы пошли ему навстречу и открыли эту школу. И мы поразились тому, какой бум это вызвало: все студенты захотели обучаться там параллельно, это создало совершенно новую атмосферу. Вузы считаются рассадником науки и всего передового, но, к сожалению, скорость изменений такова, что они не успевают адаптироваться. И «Школа 21» внутри вуза выступила таким детонатором цифрового обновления. Сегодня мы открыли «Школу 21» внутри уже четырёх вузов, и ещё пять-шесть на подходе.
Вместе с Министерством цифрового развития и Министерством науки и высшего образования мы с 1 сентября должны обновить все программы и запустить весь цикл обучения. Немного сложнее ситуация в школах. Сейчас создана группа во главе с вице-премьером Дмитрием Чернышенко, которая должна до конца текущего года подготовить концепцию изменения школьных программ. Мы проанализировали с помощью наших агентов, что делается в мире, и нас подтолкнула к этому китайская программа: они приняли обязательное обучение технологии ИИ всех детей с первого класса, а ранее внедрили его даже в детском саду. Мы посмотрели десять развитых стран – везде такие программы приняты, везде идёт перестроение школьной программы. Это одно из самых важных направлений, и мы стараемся делать всё возможное и готовы расширять.
– Агентская экономика действительно пришла, в Сбере агенты принимают решения по выдаче кредитов – это чувствительные для людей ситуации. Как вы относитесь к идее маркировать такие решения, чтобы человек понимал, что решение принимал не человек, а ИИ?
– У нас 100% решений по физическим лицам принимает ИИ. Поэтому можно поставить только один маркер. Мы единственный банк в мире, в котором по итогам прошлого года 70% решений по юридическим лицам принимает ИИ. До конца года мы должны довести эту цифру до 80%. Так что экзотикой будет скорее принятие решений человеком. Но я понимаю подтекст вашего вопроса: очень важно, чтобы человек мог апеллировать к человеку. Эти системы мы обязательно выстраиваем – чтобы при обращении с жалобой о неправомерном отказе мы могли руками перепроверить решение и вынести окончательное.
– Преимущественное развитие национальных моделей ИИ идёт без какой-либо открытости. Некоторые страны вообще блокируют доступ к передовым разработкам. Какие дополнительные меры должны быть приняты у нас?
– Здесь как в ядерной технологии. Был период, когда компания OpenAI создавалась для того, чтобы делиться со всем миром знаниями и подходами, а потом превратилась в самую закрытую компанию в мире. По мере отрыва в этой технологии все страны начинают закрывать своё ноу-хау. И чем ближе страны будут к General Intelligence, тем больше это будет происходить. Ответ может быть только один: нам нужно во что бы то ни стало развивать весь стек собственных технологий. К нам пришла одна из китайских компаний с предложением сотрудничества, потому что Китай сокращает объём поддержки – количество компаний сокращают, хотя объём наращивают. Они закончили обучать свои модели примерно шесть-восемь месяцев назад. Мы посмотрели – почти всё устарело, может быть, одно-два ноу-хау и осталось. Это та сфера, где отставание потом не нагнать.
Мне кажется, наш Президент очень хорошо это понимает. Владимир Путин каждый год во время нашей конференции «AI Journey» проводит значительное время с экспертами. В прошлом году это было несколько часов, и он не просто не утратил внимания – он спрашивал про всё, что было написано даже мелким шрифтом на каждом слайде. Это очень сильно мотивирует ребят. У него, я думаю, одно из самых глубоких пониманий среди мировых лидеров, что это за технология и почему она так важна. Поэтому он это поддерживает. Поддержка развития – это вопрос будущего существования государства в нашем случае.
– По данным экспертов НИИ Труда, до 7,5% работников могут остаться без прежнего места работы, в основном служащие и специалисты высшего и среднего звена. Как нам подготовиться?
– Вы абсолютно правы. Нужно делать то же, что и Китай. У нас до сих пор в школьные программы не внедрён ИИ. Учебник с «Яндексом» и «Просвещением» издан, но нет методологического подкрепления и обучения учителей. Начинать нужно с обучения учителей. Конечно, нужно изменять программы педвузов. Второе – нужно менять всю систему преподавания. Дети уже выполняют задачи с помощью ИИ, а учителя вручную проверяют то, что ИИ решил. Мы будем терять когнитивную сложность детей неминуемо, если не изменим систему образования. Это очень важная проблема.
– Не приведёт ли глобальное регулирование, осуществляемое странами-лидерами в области ИИ, к тому, что общечеловеческие ценности на самом деле будут отражать ценности разработчиков? Как защитить культурный и исторический суверенитет?
– Да, любая модель учится на преимущественной выборке и на каком-то языке. Мы обучаем модели на всём глобальном интернете, где превалирующий контент – английский, а сейчас всё больше китайского. Если мы не будем обучать собственные модели, то вместе с языком неизбежно будет теряться история, культура и культурный код нации, заложенный в семантике и структуре языка. Ответ только один: обязательно обучать модели на всём доступном датасете, но в качестве доминирующего должен быть русскоязычный сегмент интернета и русскоязычный дом. И нужно специально дообучать модели языкам малых народов, населяющих страну, их культуре и традициям. Мы адаптировали очень много языков малочисленных российских народов, сделав их машиночитаемыми, и добавляем эту выборку, чтобы модели были максимально приближены к нашему культурному коду и наследию. Но обучать всё равно все учат на огромном сегменте русскоязычного интернета. Критически важно, чтобы превалирующей обучающей выборкой была та страна и та культурная или научная доминанта,
которой обучают модель.
Для медицинской модели, где ошибка недопустима, мы создали специальный подход – своего рода университет для одного человека: брали весь курс медицинского вуза, затем только подтверждённые научные выборки, а потом партнёры – Первый Медицинский, Институт имени Алмазова, Самарский Медицинский университет – проверяли и принимали экзамены. Это большая скрупулёзная работа.
– Вы говорили об агентном ИИ, который действует самостоятельно и обучается в ходе реализации задач. Как это будет действовать в военной сфере? Как осуществлять контроль?
– Я, к сожалению, не эксперт в построении военных систем принятия решений, но очевидно, что во всех системах вводится контрольное слово человека. Скорость реакции в любой современной войне является определяющей: скорость выбора цели, точность выбора цели и скорость её поражения. Но при этом контроль человека остаётся ключевым. Мне кажется, по всем параметрам – моральным и любым другим – это должно сохраняться ещё очень долгий период времени. Война – это тяжёлая история, она всегда несёт большое количество ошибок. Но одна из самых аморальных вещей, которые можно позволить, – это разрешить принятие автономных решений самими системами ИИ, особенно с учётом незрелости технологии. На мой взгляд, это просто недопустимо. Поэтому пока контроль человека – это то, что должно быть встроено внутрь системы и являться обязательным её элементом.
Выступления сенаторов
Лидия Гумерова затронула тему влияния технологий ИИ на креативные индустрии и вопросы защиты авторских прав при обучении моделей. Эта тема рассматривалась на площадке Совета по вопросам развития интеллектуальной собственности под председательством Валентины Матвиенко. Эксперты называют огромный экономический ущерб в млрдх руб., а также моральный – когда имена авторов фактически стираются. Тема также рассматривалась на площадке Российского авторского общества. Авторское право не может стоять на пути развития технологий, но ни одна страна в мире пока не нашла сбалансированного решения. Сенатор обратилась с просьбой объединить усилия по проработке инициатив, чтобы найти осторожный баланс между развитием технологий и защитой прав авторов.
Борис Хачиров поднял проблему деградации земель и снижения продуктивности пастбищ, актуальную для Южного, Северо-Кавказского и Приволжского федеральных округов. Комитет Совета Федерации по аграрно-продовольственной политике и природопользованию планирует провести выездное заседание, посвящённое устойчивому развитию аграрных территорий. Для Калмыкии эта тема имеет особое значение: совместно со Сбером реализован пилотный проект по применению ИИ для мониторинга и прогнозирования процессов деградации земель и опустынивания. Модель прошла научную верификацию и показывает, что цифровые технологии могут стать эффективным инструментом государственного мониторинга земель. Сенатор пригласил Сбер, научное сообщество и профильные министерства к участию в парламентском слушании для выработки практических решений.
Людмила Нарусова пошутила, что только интеллект Грефа мог сделать его первопроходцем ИИ в стране, и обратила внимание на фразу о том, что задача робота – повторение движений человека там, где заложена логика. Она выразила сомнение, что удастся создать робота, повторяющего движения великой балерины Майи Плесецкой, но перешла к главному: люди спрашивают, почему им показывают робота-пылесоса, в то время как до сих пор существуют такие профессии, как женщина-асфальтоукладчик, и такой тяжёлый труд, как шахтёрский, где люди гибнут от завалов и метана. Она призвала в стратегии обратить внимание на создание роботов, заменяющих тяжёлый труд человека.
Алексей Кондратьев поблагодарил за работу с выпускниками первого потока программы Президента «Время Героев» в 2024–2026 годах. Занятия по искусственному интеллекту очень помогли, а встречи в Центре кибербезопасности позволили чётко понять, куда и как идти. Он отметил, что сегодня как никогда необходимы кадровые решения и продвижение учебных программ, и что пришло время вносить корректировки в школьные программы – внедрять новшества на прикладных занятиях по информатике.
Александр Трембицкий развил тему ИИ в образовательных процессах. У него два школьника в семье, которые проверяют правильность выполнения домашнего задания, советуясь с умной колонкой. Смысл самостоятельного выполнения домашнего задания, наверное, уже уходит на второй план: дети должны самостоятельно заниматься теперь в присутствии либо учителя, либо родителей. Необходимо потратить усилия на информирование учителя, ребёнка и в первую очередь родителя о том, что пользоваться искусственным интеллектом и умными гаджетами нужно максимально осторожно, иначе мы рискуем потерять ценность среднего образования.
Итак…
– Позвольте ещё раз от имени всех сенаторов выразить вам глубокую признательность не только за выступление в Совете Федерации, но и за масштабную общественно-просветительскую деятельность в этой сфере, – подвела итог Валентина Матвиенко. – Разделяю мнение коллег: в силу обстоятельств именно вы стали ключевым драйвером развития ИИ в стране. Наиболее значимые достижения в этой области принадлежат группе компаний «Сбер», причём не декларативно, а на практике – это работающие форматы, действующие модели, за которыми стоит колоссальный труд всей вашей команды. Мы посетили выставку, пообщались с сотрудниками. Я спросила: «Где вы находите таких специалистов? Умные, талантливые, с горящими глазами». Это, как принято говорить, те самые люди с высоким интеллектуальным потенциалом, нацеленные на прорыв, подготовленные к лидерству. Благодарю вас за эту работу.
Хочу подчеркнуть: Совет Федерации как палата регионов неизменно готов подставить плечо – и в части законодательства, и в проработке иных вопросов с участием регионов. Мы не можем исключать регионы из этого процесса, напротив, обязаны подтягивать их. Если Россия не войдёт в число лидеров в сфере ИИ, мы рискуем серьёзно отстать. Мы не вправе допустить этого – страна с таким интеллектуальным потенциалом, талантливыми людьми и возможностями обязана развивать собственные модели, двигаться быстрее, чтобы не отставать даже на полгода, а войти в группу лидеров.
Особую обеспокоенность вызывает система подготовки кадров. Жизнь меняется стремительно, и, как вы отметили, через пять лет мы будем жить уже в ином мире. Где специалисты, которые будут обслуживать, развивать эти технологии, работать в условиях новой агентской экономики? Между тем в этой сфере наблюдается затишье. Коллеги приводили пример Китая: сегодня там цифровая грамотность среди школьников и студентов определена как приоритетная компетенция, развёрнута масштабная работа, нацеленная не просто на просвещение, а на подготовку полноценных участников жизни в обществе в условиях ИИ. У нас же пока этого нет. Ваша обучающая программа замечательна – продолжайте, пожалуйста, в том числе в регионах.
Однако подобных инициатив недостаточно. Необходимо выстроить систему, что называется, с первого класса до высшей школы. Устаревшие специальности требуют пересмотра – они давно не соответствуют реалиям и нуждаются в скорейшей трансформации. Мы, как известно, медленно запрягаем, но в сфере образования применительно к искусственному интеллекту промедление недопустимо. Назрели системные стратегические решения и их реализация – не в формате отдельных пилотных проектов и не благодаря усилиям лишь команды «Сбера», а в виде выстроенной государственной образовательной политики в этой сфере. Мы также возлагаем большие надежды на ваше участие.
Вы упомянули, что помощники на базе ИИ должны взаимодействовать на едином языке, и это абсолютно верно. Когда мы начинали внедрение ИТ-программ и цифровизацию, отсутствовала сама возможность обмена данными между ведомствами – министерства не говорили на одном языке. Сейчас мы не вправе упустить момент: необходимо своевременно определить технологический язык взаимодействия для подобных помощников – тот ключевой элемент, который потянет за собой всю цепочку.
Вы знаете, что сегодня мы приняли закон – рамочный, первый, ставший результатом компромисса, чтобы закрепить базовые понятия, создать правовую основу. Но это лишь малый шаг. Теперь необходимо объединить усилия и активно двигаться дальше – не в направлении ограничений, а в направлении создания инфраструктуры для развития ИИ и его поддержки, одновременно осознавая сопутствующие риски и минимизируя их. В Совете Федерации действует комиссия, занимающаяся законодательством в сфере ИИ, многие сенаторы проявляют к этой теме живой интерес. Мы готовы внести свой интеллектуальный вклад – не искусственным, а естественным интеллектом – в продвижение законодательства в этой важнейшей области.
Благодарю всех причастных к организации выставки и лично вас за вашу неизменную мобильность и отзывчивость, за то, что, несмотря на масштаб деятельности и статус, вы остаётесь доступным. Руководитель огромной структуры – государства в государстве под названием «Сбер» – вы находите время постоянно учиться, тратите значительные усилия на продвижение знаний и обучение других. Мы относимся к вам с глубочайшим уважением и рады продолжению нашего сотрудничества.
Об авторе
