Кто будет отвечать за решения, которые подсказывает ИИ? Четыре ответа из четырёх миров метода «Декодер Будущего». Их придумали участники сценарных игр, а не эксперты.

Мир автопилота (ЦС)

решает система, результат не твой

Ответственных нет — решает алгоритм.

  • Как развивается: Государству не хватает ресурсов, поэтому оно автоматизирует сбор и перераспределение. Корпорация или государство — субъект, остальные объекты. Системы увольняют по эффективности, и непонятно, как скорректировать свои действия.
  • Цена: Психологическая устойчивость шатается. Система тупая, контролирует простое — появляются чёрные рынки и застой.
  • Сигнал: Системы увольняют сотрудников по показателям эффективности.
  • Прозвучало на игре: «Ответственность на алгоритме»
  • Шаг на неделю: Когда получаешь решение от системы, спроси: кто конкретно за ним стоит?

Мир правил (ЦЗ)

участвуешь по общим правилам

Сдал экзамен на ИИ — отвечаешь сам.

  • Как развивается: ИИ в поликлиниках сортирует заявки и ставит первичные диагнозы. Как с машиной: сел за руль — виноват ты. Государство вводит экзамен на использование ИИ: сдал — берёшь ответственность на себя. Родители сдают экзамен, чтобы ребёнок учился с нейросетью.
  • Цена: Экзамен — страховка для системы, а не услуга. Ответственность всё больше перекладывают на человека: «сами не позаботились».
  • Сигнал: Врач отвечает персонально, потому что у него квалификация; с ИИ непонятно, кто (опыт участника, жена — врач).
  • Прозвучало на игре: «Тебя предупредили — проверяй»
  • Шаг на неделю: Перед важным решением по совету ИИ проверь его так, будто подписываешься под ним своим именем.

Мир автономии (ДС)

Этот мир по вопросу ещё никто не спроектировал.

Мир сообщества (ДЗ)

создаёшь вместе с другими

Проблему решают на том уровне, где она возникла.

  • Как развивается: Государство незаметное, как автоплатёж: люди сами организуют работу, учёбу, здоровье и обращаются к нему в исключительных случаях. Проблема поднимается выше, только если внизу её не решить. Институты временные: решили задачу — распустились.
  • Цена: Кто контролирует контролёров? Порядок может держаться на скрытой силе.
  • Сигнал: Элинор Остром (Нобелевская премия): общие ресурсы могут управляться сообществом без контроля сверху.
  • Прозвучало на игре: «Если я сам могу починить колодки — никто не должен проверять»
  • Шаг на неделю: Выбери одну проблему, которую ты отдаёшь «наверх», и попробуй решить её сам или с соседями.

Источник: Цикл «ИИ и человек»: игра 11.07 (суббота); Цикл «ИИ и человек»: вторая часть 28.07 (консультант 40). Черновик базы знаний Декодера, дополняется после каждой игры. Все вопросы