Краткое содержание
Автор пересказывает тезисы о резком ускорении развития ИИ и о том, что прежние прогнозы сроков появления AGI оказались сильно занижены по темпам прогресса. Подчеркивается, что нет явных признаков выхода машинного обучения на плато, а значит универсальный ИИ может появиться гораздо раньше ожидаемого, что повышает связанные с ним риски. В финале автор иронически ставит под вопрос технооптимистические ожидания, будто AGI автоматически решит климатические, социальные и военные проблемы.
прежние прогнозы развития ИИ оказались ненадежными и слишком медленными; прогресс в ML и вычислительных мощностях продолжает ускоряться без явного плато; экстенсивный рост нейросетей уже дает качественные скачки в возможностях; более раннее появление AGI увеличивает вероятность фатальных последствий для человечества; технооптимистические надежды на автоматическое решение глобальных проблем подвергаются сомнению