ИИ ограничат в принятии решений в социально значимых сферах
В РФ могут законодательно закрепить правило сохранения решающей роли человека при применении искусственного интеллекта (ИИ) в общественно значимых сферах: в здравоохранении, судопроизводстве, образовании и общественной безопасности. Это следует из материалов правительства, в которых собраны предложения к законопроекту по регулированию искусственного интеллекта.
Подготовленный с учетом пожеланий документ Минцифры должно направить на согласование в правительство к концу февраля, сообщил источник, близкий к нескольким профильным ведомствам.
Отсутствие требования о решающей роли человека при использовании ИИ несет системные риски, считает член комитета Госдумы по информполитике, федеральный координатор партийного проекта «Цифровая Россия» Антон Немкин.
«Во-первых, это угроза дискриминации и алгоритмических искажений, если модель обучена на неполных или предвзятых данных. Во-вторых, размывание ответственности: в случае ошибки возникает вопрос — кто отвечает: разработчик, оператор или государство? В-третьих, снижение доверия граждан к цифровым сервисам, если решения, влияющие на их судьбу, будут восприниматься как автоматические и безапелляционные», — отметил он.
В начале февраля стало известно, что используемый в медицинском оборудовании ИИ может наносить вред пациентам.
«По меньшей мере 10 человек получили травмы в период с конца 2021-го по ноябрь 2025 года. В большинстве случаев причиной, предположительно, стали ошибки, из-за которых навигационная система TruDi давала хирургам неверную информацию о местоположении инструментов во время операций на головах пациентов», — сообщалось в материале Reuters.
ИИ нельзя доверять и проверку заданий в школах и вузах — как показал опыт, нейросети допускают массу ошибок, полагает директор Института исследований интернета Карен Казарян.
Шах ИИ мат: нейросети ограничат в принятии решений в социально значимых сферах
