кто за вас хочет

Источник: livejournal · vk

Кстати, если кому нужна метафора для понимания виртуализации производства потребностей при капитализме, то она у меня есть.

С определенного момента рекомендательные алгоритмы привели социальные сети к тому состоянию, в котором причинно-следственная связь между убеждениями человека и получаемым контентом превратилась в петлю инфопузыря. Уже нельзя сказать, человек получает такой контент, потому что таковы его убеждения и предпочтения, или у человека закрепляются убеждения и предпочтения, потому что он получает такой контент? Хотя эти пузыри всегда существовали и существуют на социальном уровне, где круг общения во многом формировал человека, сравнительно нехитрые средства ML в информационно-прозрачной и контролируемой среде позволили создать совершенно новый класс информационно-политических технологий.

Внедрение сильного ИИ за пределами соцсетей позволит вляпаться в ту же проблему, но в новом масштабе. Если алгоритмы постоянно учатся хорошо понимать потребности, желания, драйверы поведения человека, чтобы их эффективнее удовлетворять, то в какой момент мы перестанем понимать: мы получаем то, что хотим, или хотим то, что получаем?

Впрочем, никакого ИИ для этого не потребуется. "Рыночный интеллект", так восхищавший Хайека, давно вскрыл эту задачу. Мы уже давно хотим того, что для нас произвел и упаковал рынок — любой потребительский и даже жизненный опыт стали товарами, процессы производства и продажи которых постоянно обучаются на огромном массиве данных потребительского рыночного выбора. Воистину, не скажешь лучше вас, тов. Сахонько, человечество давно порабощено чужеродной формой жизни — капиталом, но порабощено так изящно, что отказывается это замечать.

Так что я бы не стал уж слишком беспокоиться по поводу сильного ИИ, который окажется вне понимания и контроля человека. Мы, люди, к этому существа привычные.