МИ с ИИ обяжут автоматически передавать данные об инцидентах
Росздравнадзор работает над формированием нормативных требований, согласно которым МИ с ИИ должны будут автоматически предоставлять службе данные об ошибках и инцидентах. Об этом заместитель руководителя Федеральной службы по надзору в сфере здравоохранения Дмитрий Павлюков сообщил на круглом столе «Технологии искусственного интеллекта в здравоохранении: проблемы и пути решения» в Совете Федерации.
Соответствующий проект может быть представлен в ближайшие месяцы, следует из доклада Павлюкова.
Есть примеры, когда регулятор был вынужден запрещать эксплуатацию МИ с ИИ, получив информацию от регионов, от врачей о некачественном результате работы таких программных продуктов, сообщил заместитель руководителя Службы.
«Надо отдать должное производителям, изучив материалы, они не просто с нами согласились, а кардинально переработали продукт, после чего мы их опять выпустили в оборот, — продолжил Павлюков. — Такой мониторинг очень важен, и мы ведем большую работу с коллегами-производителями, с медицинскими организациями над формированием нормативных требований об автоматическом предоставлении в адрес Росздравнадзора такими продуктами данных об ошибках, инцидентах и масштабе их работы».