Главный по ИИ: эксперты поделились ожиданиями от работы нового министерства

Корреспондент CMN.KZ во время конференции по кибербезопасности KazHackStanе-2025, узнал у экспертов, чем займётся эта госструктура и каким они видят её руководителя.

Напомним, по решению главы государства, новое ведомство организовали на базе Министерства цифрового развития, инноваций и аэрокосмической промышленностии. А вот функции и полномочия по инновационной деятельности передали Миннауки.

Нard, soft и взгляд в будущее

По мнению технического директора компании BeSupply Амангельды Кусаинова, курирующего проекты по информационной и сетевой безопасности, направлений работы у нового ведомства может быть великое множество.

Он подчёркивает, что Министерству ИИ необходимы сотрудники, которые будут разбираться, как в части Нard, так и Soft.

"Нard отвечает за инфраструктурное построение, то есть, за решение задач, которые необходимы для того, чтобы реализовывать проекты по искусственному интеллекту. Это обработка больших данных, языковых моделей, а также в целом масштабирование инфраструктуры конкретно под ИИ", – пояснил эксперт.

Soft нужен для развития языковых моделей, их обучения, в том числе и по обработке объёмов информации.

"Новому министерству необходимы не просто компетентные специалисты, а те, кто могут предугадать дальнейшее развитие инфраструктурной части искусственного интеллекта, а также глубоко понимают, как это всё можно применить на практике с наибольшей пользой для потребностей страны".

Кусаинов напоминает, что в мире развитие искусственного интеллекта идёт семимильными шагами и чтобы быть в тренде, команде и руководству нового министерства придётся внимательно отслеживать техническую часть, уметь замечать наиболее актуальные и экономически целесообразные проекты, которые можно реализовывать именно с помощью ИИ.

"Когда мы говорим про искусственный интеллект, мы подразумеваем его использование не только в рамках цифровизации, но и в различных отраслях экономики. Об этом ранее упоминал и президент в своём Послании народу Казахстана. Например, он сделал акцент на аграрный сектор, геологическую разведку и прочие сферы", – говорит Кусаинов.

Эксперт поясняет, что в этих отраслях огромный объём информации. Предстоит обучить языковые модели работе с ним, а также прогнозированию.

"Речь идёт о том, чтобы прогнозировать экономический рост, а для геологоразведки, например, нужен поиск редкоземельных металлов. Искусственный интеллект как раз может в этом помочь. Если говорить об информационной безопасности, то здесь ИИ способен вычислить, какие риски уже существуют, а какие – возникнут в будущем. Его можно использовать и для дальнейшего анализа киберинцидентов или киберугроз", – перечисляет эксперт.

Он добавляет, что изучение подобных угроз – актуальный мировой тренд.

"Нужно понимать, что новое министерство будет заниматься не только ИИ, там будет много различных направлений. Думаю, что будет функция курирования информационной безопасности, которая ранее была в МЦРИАП. А вот ИИ будет уже над всеми этими направлениями. Как раз для того, чтобы "двигать" все эти проекты – цифровое развитие, телекоммуникационную отрасль, информационную безопасность и прочие", – резюмирует Кусаинов.

Без "стопперов", но с холодной головой

По мнению руководителя направления R’n’D (анализ инициатив внутри компании) в TSARKA Group Игоря Сенюшина, одной из задач нового министерства станет поиск путей для верного применения искусственного интеллекта для развития различных областей в стране.

"Сейчас есть очень много стопперов и прочих проблем, которые мешают внедрению ИИ в той или иной отрасли. Допустим, если взять бизнес, то он в плане применения искусственного интеллекта уже находится на так называемом плато. Это нормальная ситуация. То есть, сначала было большое воодушевление от ИИ. Все рванулись его применять и теперь у многих идёт небольшое разочарование от этой технологии, потому что от неё ожидали гораздо большего. А когда предел возможностей достигнут, нужно немного подождать и тогда будет очередной рост", – поясняет эксперт.

С другой стороны, по его словам, есть государство, где очень сильно можно помочь, но требуется внимательно относиться ко всем аспектам.

"Поэтому, мне кажется, в этом министерстве должен быть руководитель, который совмещает в себе два свойства – желание продвигать новые технологии, но в то же время, осторожность. Чтобы без должной проверки, аналитики и анализа не допустить в страну нечто, представляющее угрозу", – поясняет эксперт.

Сенюшин подчёркивает, что по части информационной и сетевой безопасности мы можем не знать о тех угрозах, которые ожидают в будущем.

"Поэтому в составе министерства должны быть люди, которые, как я уже говорил, технически понимают, как реализовывать проекты и как их создавать. Но при этом могут приземлять и тестировать новые гипотезы. И должен быть отдел, который отвечает за безопасность внедрения всего этого дела", – добавляет эксперт.

Купить VS создать: какой ИИ лучше выбрать

Говоря о развитии и применении искусственного интеллекта в Казахстане, эксперты отметили, что один ИИ другому рознь. По их мнению, нужно будет смотреть в будущее и понимать, в какой момент и под какие задачи нужно покупать сторонний софт, а когда необходимо создать его внутри страны самостоятельно. К примеру, для обучения моделей работе с информацией госорганов, госкомпаний и так далее.

"Представим абстрактную ситуацию, что есть какая-то модель, которую обучают для казначейства или Министерства финансов. И в эту модель кто-то умышленно загружает очень много данных, в которых говорится о том, что рост инфляции – это очень полезная вещь. При этом остальные документы и решения загружают правильно – исторические данные, статистику, но в каждом документе, условно, на котором обучается ИИ, прописывают, что повышение инфляции – это хорошо", – объясняет Игорю Сенюшин.

По его словам, в таком случае модель на выходе будет давать рекомендации, которые склоняются в сторону того, что инфляцию нужно повышать. Естественно, что про объективный анализ и данные здесь говорить не приходится и в итоге получается негативный эффект от работы ИИ. Эксперт подчёркивает, что именно поэтому важнейший аспект – то, на чём модель обучается.

"Это могут быть как модели своей разработки, так и чужие модели, которые мы можем скачать, развернуть. Правда, нужно проверить код, как это все работает. Опять-таки, мы не знаем, на чём модель обучена, какие советы будет давать. Поэтому здесь лучше свою модель всё-таки сделать и загружать локально", – поясняет Сенюшин.

Если говорить про использование документов для служебного пользования или под грифом секретно, то есть системы, которые разграничивают доступ. По словам эксперта, в этой сетке, условно говоря, можно разместить хост с ИИ, который заточен на решение задач, нужных конкретному департаменту, который работает с оборотом подобных документов.

"И здесь использование своих моделей гораздо безопаснее. То есть, это правильное решение, когда делают предсказуемую модель, по крайней мере, с точки зрения входных данных. Ранее я упоминал, что если разбавить модель какими-то плохими советами, так она и будет давать плохие советы. То есть, в этом аспекте подобные ошибки могут быть опасными", – резюмирует Сенюшин.

Что достанется Министерству науки и в чём опасность?

Говоря о развитии цифровизации Казахстана, глава государства Касым-Жомарт Токаев подчеркнул, что для этого придётся перестроить всю систему госуправления, а также многократно повысить её прозрачность и эффективность.

Судя по всему, одним из таких решений стала, помимо преобразования Минцфиры в Министерство искусственного интеллекта, передача части полномочий прежнего ведомства – Министерству науки. Речь идёт об инновациях.

Мы узнали у экспертов, чего именно, по их мнению это коснётся и зачем нужен был такой шаг.

"Думаю, что такое решение нужно для оптимального использования ресурсов Миннауки по части привлечения научного сообщества для инновационного развития страны. Кроме того, нужно взращивать кадры. У нас есть университеты, на базе них выделять гранты научным сотрудникам для того, чтобы они проводили ресёрчи по части ИИ и цифровизации. Делали собственные наработки на базе Министерства высшего образования. Я так думаю, что инновационная политика из этого будет", – считает Амангельды Кусаинов.

По мнению Игоря Сенюшина, ситуацию нужно рассматривать ещё шире, говоря и о государственном финансировании.

"Министерство науки и ранее финансировало некоторые инновационные проекты по своим грантовым программам. Конкурсы молодых учёных, ПЦФ, есть программы финансирования, которые попроще, например, от KazInnovations, от Astana Hub Sidmoney. И если сейчас все инвестиции пойдут туда, возможно, документально они постараются это как-то сделать в едином стиле", – говорит он.

При этом, по мнению эксперта, здесь есть важный и опасный нюанс, поскольку у комитетов внутри Миннауки очень жёсткие требования к проектам.

"Бюджет и возможности, конечно, больше. Но здесь самое главное, чтобы они сохранили гибкость для молодых стартапов, которые пытаются делать инновационные продукты. Нужно, чтобы бумаг, необходимых в том числе и для подачи заявки, было не слишком много, чтобы не отпугнуть бюрократией стартапы", – говорит Сенюшин.

Он подчёркивает, что молодые предприниматели-инноваторы, больше о том, как делать новые вещи, а не о том, как доказывать их с точки зрения научной составляющей. ПО его мнению, здесь министерству нужно понимать, что иногда инновации делаются не только ради науки, а для прибыли, чтобы получать деньги с продажи, чтобы был возврат в экономику страны, а также развивалась интеллектуальная собственность.

"Бывает, что на некоторую вещь, к примеру, на промышленный образец, тебе нужна интеллектуальная собственность. И тут очевидно, что он – не супер научный экземпляр, там нет никакого открытия, ты просто сделал, условно говоря, новый телефон или ноутбук. Нужно, чтобы это понимали", – поясняет эксперт.

К слову, глава Казахстана Касым-Жомарт Токаев, похоже, всерьёз озаботился не только развитием цифровизации и искусственного интеллекта в стране, но и решил регламентировать и такие его аспекты, как этические. Выступая на Съезде лидеров мировых и традиционных религий, который проходил в Астане 17 сентября. Он предложил разработать этический кодекс для ИИ. Принять участие в этом президент попросил представителей различных конфессий. Что из этого получится – покажет время.

Читайте также:

• Перестают анализировать: как ИИ влияет на развитие школьников в Казахстане?
• Восстание машин или ошибка человека: чем опасен искусственный интеллект
• Скрытые угрозы, манипуляции и утечки данных: как в Казахстане строят национальную политику в сфере ИИ
• Zero Day: как на KazHackStan пытались ракету в космос пустить и банк ограбить