Аналитический обзор методов распределения задач при совместной работе человека и модели ИИ
Во многих практических сценариях принятие решений исключительно моделью ИИ оказывается нежелательным или даже невозможным, и использование модели ИИ является лишь частью сложного процесса принятия решений, включающего и эксперта-человека. Тем не менее при создании и обучении моделей ИИ этот факт зач...
Saved in:
| Main Authors: | , |
|---|---|
| Format: | Article |
| Language: | English |
| Published: |
Russian Academy of Sciences, St. Petersburg Federal Research Center
2025-01-01
|
| Series: | Информатика и автоматизация |
| Subjects: | |
| Online Access: | https://ia.spcras.ru/index.php/sp/article/view/16624 |
| Tags: |
Add Tag
No Tags, Be the first to tag this record!
|
| _version_ | 1832592321844084736 |
|---|---|
| author | Andrew Ponomarev Anton Agafonov |
| author_facet | Andrew Ponomarev Anton Agafonov |
| author_sort | Andrew Ponomarev |
| collection | DOAJ |
| description | Во многих практических сценариях принятие решений исключительно моделью ИИ оказывается нежелательным или даже невозможным, и использование модели ИИ является лишь частью сложного процесса принятия решений, включающего и эксперта-человека. Тем не менее при создании и обучении моделей ИИ этот факт зачастую упускается – модель обучается для самостоятельного принятия решений, а это не всегда является оптимальным. В статье представлен обзор методов, позволяющих учесть совместную работу ИИ и эксперта-человека в процессе конструирования (в частности, обучения) систем ИИ, что более точно соответствует практическому применению модели, позволяет повысить точность решений, принимаемых системой «человек – модель ИИ», а также явно управлять другими важными параметрами системы (например, нагрузкой на человека). Обзор включает анализ современной литературы по заданной тематике по следующим основным направлениям: 1) сценарии взаимодействия человека и модели ИИ и формальные постановки задачи для повышения эффективности системы «человек – модель ИИ»; 2) методы для обеспечения эффективного функционирования системы «человек – модель ИИ»; 3) способы оценки качества совместной работы человека и модели ИИ. Сделаны выводы относительно достоинств, недостатков и условий применимости методов, выявлены основные проблемы существующих подходов. Обзор может быть полезен широкому кругу исследователей и специалистов, занимающихся применением ИИ для поддержки принятия решений. |
| format | Article |
| id | doaj-art-edcac8ff709744599997db94b4fcb3fd |
| institution | Kabale University |
| issn | 2713-3192 2713-3206 |
| language | English |
| publishDate | 2025-01-01 |
| publisher | Russian Academy of Sciences, St. Petersburg Federal Research Center |
| record_format | Article |
| series | Информатика и автоматизация |
| spelling | doaj-art-edcac8ff709744599997db94b4fcb3fd2025-01-21T11:27:24ZengRussian Academy of Sciences, St. Petersburg Federal Research CenterИнформатика и автоматизация2713-31922713-32062025-01-0124122927410.15622/ia.24.1.916624Аналитический обзор методов распределения задач при совместной работе человека и модели ИИAndrew Ponomarev0Anton Agafonov1St. Petersburg Federal Research Center of the Russian Academy of Sciences (SPC RAS)St. Petersburg Federal Research Center of the Russian Academy of Sciences (SPC RAS)Во многих практических сценариях принятие решений исключительно моделью ИИ оказывается нежелательным или даже невозможным, и использование модели ИИ является лишь частью сложного процесса принятия решений, включающего и эксперта-человека. Тем не менее при создании и обучении моделей ИИ этот факт зачастую упускается – модель обучается для самостоятельного принятия решений, а это не всегда является оптимальным. В статье представлен обзор методов, позволяющих учесть совместную работу ИИ и эксперта-человека в процессе конструирования (в частности, обучения) систем ИИ, что более точно соответствует практическому применению модели, позволяет повысить точность решений, принимаемых системой «человек – модель ИИ», а также явно управлять другими важными параметрами системы (например, нагрузкой на человека). Обзор включает анализ современной литературы по заданной тематике по следующим основным направлениям: 1) сценарии взаимодействия человека и модели ИИ и формальные постановки задачи для повышения эффективности системы «человек – модель ИИ»; 2) методы для обеспечения эффективного функционирования системы «человек – модель ИИ»; 3) способы оценки качества совместной работы человека и модели ИИ. Сделаны выводы относительно достоинств, недостатков и условий применимости методов, выявлены основные проблемы существующих подходов. Обзор может быть полезен широкому кругу исследователей и специалистов, занимающихся применением ИИ для поддержки принятия решений.https://ia.spcras.ru/index.php/sp/article/view/16624искусственный интеллектответственный ииподдержка принятия решенийчеловеко-машинное взаимодействиеэксперт-человекраспределение задачсовместная работа человека и иинеопределенность моделинейронные сетиклассификаторобучение с отказомобучение с делегированием |
| spellingShingle | Andrew Ponomarev Anton Agafonov Аналитический обзор методов распределения задач при совместной работе человека и модели ИИ Информатика и автоматизация искусственный интеллект ответственный ии поддержка принятия решений человеко-машинное взаимодействие эксперт-человек распределение задач совместная работа человека и ии неопределенность модели нейронные сети классификатор обучение с отказом обучение с делегированием |
| title | Аналитический обзор методов распределения задач при совместной работе человека и модели ИИ |
| title_full | Аналитический обзор методов распределения задач при совместной работе человека и модели ИИ |
| title_fullStr | Аналитический обзор методов распределения задач при совместной работе человека и модели ИИ |
| title_full_unstemmed | Аналитический обзор методов распределения задач при совместной работе человека и модели ИИ |
| title_short | Аналитический обзор методов распределения задач при совместной работе человека и модели ИИ |
| title_sort | аналитический обзор методов распределения задач при совместной работе человека и модели ии |
| topic | искусственный интеллект ответственный ии поддержка принятия решений человеко-машинное взаимодействие эксперт-человек распределение задач совместная работа человека и ии неопределенность модели нейронные сети классификатор обучение с отказом обучение с делегированием |
| url | https://ia.spcras.ru/index.php/sp/article/view/16624 |
| work_keys_str_mv | AT andrewponomarev analitičeskijobzormetodovraspredeleniâzadačprisovmestnojrabotečelovekaimodeliii AT antonagafonov analitičeskijobzormetodovraspredeleniâzadačprisovmestnojrabotečelovekaimodeliii |