Эксперты Вышки зададут стандарт искусственному интеллекту
Высшая школа экономики по заказу Федерального агентства по технологическому регулированию и метрологии разработает российские стандарты создания и применения искусственного интеллекта (ИИ) в сетях связи, системах аналитики, нейронных сетях, системах госуслуг, для контроля оборота алкоголя и в других сферах. Об этом проекте и о том, зачем и как нужно стандартизировать ИИ, новостной службе портала рассказал директор по научным проектам НИУ ВШЭ, председатель национального технического комитета по стандартизации ТК164 «Искусственный интеллект» Сергей Гарбук.
Стандарты необходимы для создания благоприятных нормативных возможностей внедрения технологий искусственного интеллекта в различные отрасли экономики и социальной сферы. Дело в том, что в настоящее время отсутствуют единые, признанные профессиональным сообществом и государственными регуляторами правила подтверждения функциональной надежности и безопасности прикладных интеллектуальных систем. Отсутствие таких правил делает невозможным применение систем ИИ в наиболее ответственных задачах, ошибки решения которых могут привести к опасным последствиям: на транспорте, в медицине, образовании, в системах безопасности и других. Система стандартов в области искусственного интеллекта как раз и направлена, прежде всего, на формирование таких единых принципов оценки соответствия систем ИИ установленным требованиям, выполнение которых обеспечивало бы гарантии качества прикладных интеллектуальных систем.
Сергей Гарбук
Государству стандарты нужны для того, чтобы защитить потребителя систем ИИ, предоставляя ему гарантии качества, надежности и безопасности этих систем. Добросовестным разработчикам стандартизация в области искусственного интеллекта необходима для обеспечения единства измерений в этой сфере, благодаря чему появится, например, возможность объективного сопоставления прикладных систем ИИ, созданных разными разработчиками. Такая возможность обеспечит прозрачность конкурентной среды и безусловно будет способствовать развитию отрасли искусственного интеллекта в целом.
Стоит подчеркнуть, что технологии ИИ бурно развиваются. Большие перспективы открываются, в том числе, в связи с использованием интеллектуальных технологий в образовательном процессе. Но такое использование возможно лишь при одном условии: если будут обеспечены гарантии того, что качество образования при этом, как минимум, не снизится. Получение таких гарантий предполагает создание системы оценки соответствия интеллектуальных технологий предъявляемым требованиям. При этом как сами типовые требования к технологиям ИИ, так и способы оценки соответствия этим требованиям должны быть едиными для всех, то есть унифицированными, одобренными профессиональным сообществом, и закреплены в соответствующих стандартах.
Таким образом, отсутствие стандартов ИИ не позволяет использовать эти технологии во многих важных прикладных областях, включая образование, то есть там, где требуются определенные гарантии качества работы интеллектуальных систем. В данном случае можно говорить о наличии серьёзного нормативно-технического барьера, препятствующего эффективному созданию и применению систем искусственного интеллекта.
Стандарты ИИ уже несколько лет активно разрабатываются в разных странах и на международном уровне. Например, национальный план разработки стандартов искусственного интеллекта в США был принят в августе 2019 года. Работа над международными стандартами ведется с начала 2018 года, когда был создан соответствующий подкомитет SC42 Artificial Intelligence Объединенного технического комитета по стандартизации JTC1 Information Technologies. В настоящее время в разработке находится более 20 международных стандартов, и Высшая школа экономики принимает активное участие в этой работе.
В России Перспективный план разработки стандартов искусственного интеллекта на 2021-2024 годы был принят в конце 2020 года. В перечень работ Высшей школы экономики войдет разработка национальных стандартов общего назначения, устанавливающих термины и определения в данной области, форматы представления данных и другие вопросы, решение которых обеспечит терминологическое единство и необходимый уровень совместимости интеллектуальных систем с существующей и перспективной информационной инфраструктурой. Также значительное внимание будет уделено стандартам, устанавливающим единые требования к испытанию систем ИИ, рассчитанных на решение различных прикладных задач. Особенностью таких стандартов является то, что в этих документах будут сформулированы требования к тестовым наборам данных (т.н. датасетам), на которых необходимо проводить испытание интеллектуальных систем для определения их безопасности и функциональности.
Часть стандартов будет разрабатываться путем гармонизации отечественных нормативных документов с соответствующими международными стандартами. Такие работы также запланированы в рамках данного комплексного проекта.
Принципиальным моментом нормативно-технического регулирования ИИ на данном этапе является то, что стандарты не устанавливают требований к способам создания интеллектуальных систем. Унификации подлежат лишь принципы их испытаний, измерения функциональных характеристик и характеристик безопасности. При этом стандарты никак не ограничивают исследователей и разработчиков в выборе принципов создания и функционирования систем.
Гарбук Сергей Владимирович
Вам также может быть интересно:
В Вышке создали собственную MLOps-платформу
Ученые НИУ ВШЭ создали MLOps-платформу SmartMLOps. Она предназначена для исследователей в области искусственного интеллекта, которые хотели бы превратить свое изобретение в полноценный сервис. В будущем на платформе могут быть развернуты ИИ-помощники для упрощения образовательного процесса, оказания медицинской помощи, консультирования и решения многих других задач. Создатели ИИ-технологий смогут получить готовый к работе сервис в течение считанных часов. На суперкомпьютере Вышки этот сервис может быть запущен в несколько кликов.
«От нашей общей работы зависит будущее»: что несет человечеству развитие ИИ
Какие перспективы и вызовы для человечества несет развитие технологий искусственного интеллекта? Как его используют ученые? Каким будет мир, где доминирует ИИ? Эти и другие темы обсудили эксперты на форсайт-сессии «Будущее исследований в сфере искусственного интеллекта», которая прошла в НИУ ВШЭ.
ИИ позволит точно моделировать производительность систем хранения данных
Исследователи факультета компьютерных наук НИУ ВШЭ разработали новый подход к моделированию систем хранения данных на основе генеративных моделей машинного обучения. Он позволяет с высокой точностью предсказывать ключевые характеристики работы таких систем при различных условиях. Результаты опубликованы в журнале IEEE Access.
ИИ в образовании: как преодолеть соблазн готовых решений
Искусственный интеллект уже стал обыденностью для молодежи: как показал опрос, около 87% студентов ведущих вузов используют ИИ в процессе обучения. Большая часть из них отметила, что он помогает им экономить время, при этом они проверяют сделанную ИИ работу. Результаты исследования были представлены на конференции по анализу данных и технологиям ИИ Data Fusion. В ее работе приняли участие научный руководитель НИУ ВШЭ Ярослав Кузьминов и другие эксперты Вышки.
Большинство студентов не верят, что ИИ сможет заменить их на работе
Большинство студентов считают, что ИИ не сможет заменить их на работе в ближайшие десять лет. Низким такой риск называют 27,2% респондентов, 41,5% — крайне маловероятным. Эти оценки были получены НИУ ВШЭ в ходе опроса 4200 студентов в 2025 году. Они приводятся в докладе «Эпоха больших языковых моделей: почему они все еще не профессионалы», подготовленном научным руководителем НИУ ВШЭ Ярославом Кузьминовым и старшим преподавателем кафедры высшей математики НИУ ВШЭ Екатериной Кручинской. Доклад был представлен на XXV Ясинской (Апрельской) международной научной конференции по проблемам развития экономики и общества, которая проходит с 15 по 18 апреля в НИУ ВШЭ.
Точный ИИ-оракул: какие тренды интересуют бизнес
Современные технологии ежедневно меняют мир, автоматизируя бизнес-процессы в различных отраслях. Специалисты НИУ ВШЭ представили масштабный опыт команды iFORA по реализации ИИ-проектов в интересах крупных компаний и органов власти.
Перспективы ИИ: математика машинного обучения в фокусе
Институт искусственного интеллекта и цифровых наук ФКН НИУ ВШЭ провел выездной воркшоп «Математика машинного обучения». Здесь собрались ведущие ученые и специалисты НИУ ВШЭ в области машинного обучения, математики и статистики. В центре внимания исследователей оказались математические аспекты, лежащие в основе современных и наиболее перспективных направлений машинного обучения. Программа воркшопа включала мини-курсы, практические работы, доклады и круглый стол, посвященный перспективам развития ИИ в России.
Внедрение искусственного интеллекта в организации: какие эффекты отмечают сотрудники
45% организаций, которые занимались внедрением ИИ в работу, заявили о повышении производительности труда в результате его использования. Об этом говорится в исследовании «Внедрение ИИ в работу организаций: чем обусловлена вариация эффектов на труд?». Исследование проведено директором Центра статистики труда и заработной платы ИСИЭЗ НИУ ВШЭ Анной Демьяновой и стажером-исследователем центра Дарьей Талакаускас. Оно было презентовано на XXV Ясинской (Апрельской) международной научной конференции по проблемам развития экономики и общества (XXV ЯМНК), проходящей в НИУ ВШЭ с 15 по 18 апреля.
«Идею всегда задает человек»: что дает ИИ образованию и медиа
ИИ-технологии меняют принципы работы образования и медиаиндустрии. Большинство студентов уже в той или иной мере используют ИИ, а нейросети уже массово производят все виды контента. Возможности и вызовы эксперты обсудили на конференции «Образование и медиа в эпоху цифровых перемен», организованной Дирекцией по маркетинговым коммуникациям НИУ ВШЭ и «Яндекс Образованием».
В Вышке стартовали открытые семинары «ИИ в индустрии»
Институт искусственного интеллекта и цифровых наук факультета компьютерных наук НИУ ВШЭ запустил цикл открытых семинаров. Встречи посвящены актуальным вопросам внедрения искусственного интеллекта в различные отрасли экономики. Семинары проводятся еженедельно в 18:00 в кампусе на Покровском бульваре. Для участников также предусмотрена онлайн-трансляция.