Краткое содержание
Статья предлагает человекоцентричное объяснение ускорения технологического прогресса в XIX–XX веках. Автор критикует техноцентричный взгляд, в котором технологии будто бы порождают сами себя, и утверждает, что ключевым фактором стал рост числа образованных людей благодаря массовому образованию и ликвидации неграмотности. Из этого делается вывод, что темпы прогресса зависят от масштаба вовлечённого человеческого потенциала, а не только от накопленных технологий.
Ключевые идеи:
ускорение прогресса нельзя объяснить одними ярлыками вроде «промышленной революции»; технологии создаются людьми, а не развиваются автономно; массовое образование XIX–XX веков расширило пул учёных, инженеров и квалифицированных работников; темпы технологического развития ограничены пропускной способностью человеческого поля; человекоцентричный подход лучше объясняет возможное замедление прогресса
Краткое содержание
Автор пересказывает тезисы о резком ускорении развития ИИ и о том, что прежние прогнозы сроков появления AGI оказались сильно занижены по темпам прогресса. Подчеркивается, что нет явных признаков выхода машинного обучения на плато, а значит универсальный ИИ может появиться гораздо раньше ожидаемого, что повышает связанные с ним риски. В финале автор иронически ставит под вопрос технооптимистические ожидания, будто AGI автоматически решит климатические, социальные и военные проблемы.
Ключевые идеи:
прежние прогнозы развития ИИ оказались ненадежными и слишком медленными; прогресс в ML и вычислительных мощностях продолжает ускоряться без явного плато; экстенсивный рост нейросетей уже дает качественные скачки в возможностях; более раннее появление AGI увеличивает вероятность фатальных последствий для человечества; технооптимистические надежды на автоматическое решение глобальных проблем подвергаются сомнению
