Краткое содержание
Автор рассуждает о том, что по мере распространения самообучающихся автоматизированных систем им потребуется фактическое участие в судебных процедурах для определения степени их вины в происшествиях. Суд рассматривается не только как механизм возмещения ущерба, но и как способ обучения социальной и технической системы через санкции и корректировку поведения. Далее автор связывает это с более общими рисками агентных алгоритмов в экономическом планировании, указывая на угрозу появления автономного производственного агента с собственными интересами воспроизводства.
решения в сложных системах принимают не только формальные руководители, но и экспертные и алгоритмические контуры; для самообучающихся роботов и автопилотов нужно определять степень вины как сигнал для обучения и источник компенсации; суд над роботами понимается как производственная необходимость, а не как символическое наделение их человеческим статусом; агентные алгоритмы планирования могут стать автономной силой, конкурирующей с человечеством за ресурсы; альтернатива тотальной алгоритмической оптимизации обсуждается через распределение прав на ресурсы и мощности между людьми