Что ждет программирование
Источник: vk
Что ждет программирование
Сегодня сложно что-то писать, так как ситуация меняется так быстро, что кажется, что всем «и так все ясно». Я, конечно же, о новостях из мира нейросетей, и особенно — робототехники. И там, и там регулярные прорывы стали уже обыденностью, но что еще интереснее — в норму входит состояние ожидания прорывов.
Наверное, так и должна выглядеть сингулярность: вчера openAPI показывает своих андроидов в тестовом окружении, так что специалисты едут проверять, что это не переодетые люди; сегодня китайская компания показывает обучающегося робота на автопроизводстве; завтра нам обещают продемонстрировать разрешение парадокса Моравека.
YouTube0:51
Вчера SORA научили генерировать видео кинематографического качества, сегодня Gemini 1.5 показывает мультимодальные чудеса, а завтра NVidia включается в гонку по созданию AGI-агентов, способного действовать и в виртуальном, и в реальном мире.
YouTube30:39
Но на самом деле ясно не все и всем. Например, на встрече с Илоном Маском Риши Сунак, британский премьер, отвлекаясь от темы безопасности искусственного интеллекта, говорит, что людей волнует совсем другое:
"I do interviews or talk to people out about AI. The thing that comes up most actually is probably not so much of the stuff we've been talking about but jobs. It's what does AI mean for my job is it going to mean that I don't have a job or my kids are not going to have a job?"
"Я провожу интервью или беседую с людьми об искусственном интеллекте. Чаще всего речь заходит не о тех вещах, о которых мы говорили, а о рабочих местах. Что означает ИИ для моей работы, будет ли он означать, что у меня не будет работы или у моих детей не будет работы?"
YouTube51:17
Как выясняется, политики и бизнесмены отвечают на этот вопрос... по-разному. Как политики Риши Сунак говорит электорату то, что тот хочет слышать — старую ложь о том, что AI создаст новые рабочие места, и что решение этого вопроса для человека лежит в области образования:
My answer as a you as a policy maker, as a leader, is you know actually AI is already creating jobs and you can see that in the companies that are starting, also, the way it's being used is a little bit more as a co-pilot, necessarily versus replacing the person. There's still human agency but it's helping you do your job better, which is a good thing, and and as we've seen with technological revolutions in the past — clearly there's change in the labor market. The amount of jobs — I was quoting in MIT study today that they did a couple of years ago, — something like 60% of the jobs at that moment didn't exist 40 years ago. So hard to predict and my job is to create an incredible education system whether it's at school, whether it's retraining people at any point in their career, because ultimately if we've got a skilled population they'll be able to keep up with the the pace of change and have a good life. But, you know, that it's still a concern."
"Мой ответ как политика, как руководителя - вы знаете, на самом деле ИИ уже создает рабочие места, и это видно по начинающим компаниям, а также по тому, как он используется - немного больше как второй пилот, обязательно, а не как замена человека. Человеческий фактор все еще присутствует, но он помогает вам лучше выполнять свою работу, что очень хорошо, и, как мы уже видели в прошлом с технологическими революциями, на рынке труда происходят очевидные изменения. Количество рабочих мест - я сегодня цитировал исследование Массачусетского технологического института, которое они провели пару лет назад, - что-то около 60 % рабочих мест на данный момент не существовало 40 лет назад. Это трудно предсказать, и моя задача - создать невероятную систему образования, будь то в школе, будь то переподготовка людей на любом этапе их карьеры, потому что в конечном итоге, если у нас будет квалифицированное население, оно сможет идти в ногу с темпами изменений и жить в достатке. Но, знаете, это все еще вызывает беспокойство".
Однако лидеры отрасли видят ситуацию совсем по-другому. Маск отвечает ему, что на сохранение рабочих мест надеяться не стоит, и труд останется только как деятельность по собственному выбору человека. Переводя с буржуазного на марксистский, это значит — платить за него перестанут.
"Well, I think we are seeing the most disruptive force in history here. You know, we will have for the first time something that is smarter than the smartest human, and that I mean it's hard to say exactly, what that moment is, but there will come a point where no job is needed. You can have a job, if you want to have a job for sort of personal satisfaction, but the AI will be able to do everything, so I don't know if that makes people comfortable or uncomfortable."
"Ну, я думаю, что мы видим здесь самую разрушительную силу в истории. Знаете, у нас впервые появится нечто, что будет умнее самого умного человека, и я имею в виду, что трудно сказать точно, что это будет за момент, но наступит момент, когда работа будет не нужна. У вас может быть работа, если вы хотите ее иметь для личного удовлетворения, но ИИ будет способен делать все, так что я не знаю, будет ли людям от этого комфортно или некомфортно".
А ведь это тот же вопрос, который задает Гейтс Альтману:
"The one that sort of befuddles me is human purpose. I get a lot of excitement that, hey, I’m good at working on malaria, and malaria eradication, and getting smart people and applying resources to that. When the machine says to me, "Bill, go play pickleball, I’ve got malaria eradication. You’re just a slow thinker," then it is a philosophically confusing thing. How do you organize society? Yes, we’re going to improve education, but education to do what, if you get to this extreme, which we still have a big uncertainty."
"Одна из них, которая ставит меня в тупик, - это человеческое предназначение. Меня очень радует, что я хорош в борьбе с проблемой малярии и ее искоренении, умею привлекать умных людей и направлять на это ресурсы. Когда машина говорит мне: "Билл, иди поиграй в пиклбол, я занимаюсь искоренением малярии. А ты просто медленно соображаешь", - то это вызывает философское недоумение. Как вы организуете общество? Да, мы собираемся улучшить образование, но с образованием — для какой деятельности, если дойти до крайностей, и по этому поводу у нас все еще остается большая неопределенность".
YouTube33:06
Нет, вопрос не лежит в образовании. Роботы и нейросети не создадут новых рабочих мест. Они лишат людей, продающих свою рабочую силу, средств к существованию — и этим обрушат всю капиталистическую систему. Даже Цукерберг был вынужден признавать, что
"It's time our generation defines a new social contract"..."We should explore ideas like universal basic income to make sure that everyone has a cushion to try new ideas."
"Настало время нашему поколению определить новый общественный договор"... "Мы должны исследовать такие идеи, как всеобщий базовый доход, чтобы у каждого была подушка безопасности, позволяющая пробовать новые идеи".
Но и ББД не станет решением — я уже писал, почему. Собственно, поэтому и Альтман, и Цукерберг пытаются в частном порядке обеспечить себе безопасное пристанище на время то ли глобального финансового кризиса, то ли мировой империалистической войны, то ли социальной турбулентности изменяющегося общества.
Впрочем, нам интереснее сегодня, что случится с нашими профессиями. Ну со мной все понятно — я как системный аналитик, судя по всему, наслаждаюсь последними мгновениями на своей работе, так как с хорошим copilot'ом мне будет не сравниться: он и требования соберет, и арх. решение придумает, и задачу поставит, и все стандарты при этом учтет, и оценку даст, и людей скоординирует — конечно, когда подучится чуть меньше галлюцинировать или лучше себя перепроверять. А научится, никуда от этого не уйдем.
Но, например, ИИ все еще не умеет писать качественный код — хотя увлекательно смотреть, как над этим работают мультиагентные системы из нескольких нейросетей.
https://github.com/OpenBMB/ChatDev
Но если вот так, между нами... а нужно ли его вообще писать?
Например, для роботов этот код писать перестали. EVA от OpenaAI программируется путем обучения нейросети на нужном датасете, а потом — тренировкой. Аналогично AlfaZero занимался самообучением в тестовом окружении, а не работал по алгоритму. Агент от DeepMind тоже научился играть в шахматы без алгоритмического перебора всех сценариев. Может, ну их, эти алгоритмы?
YouTube6:02
В конце концов, в любой человеческой организации никто не работает по должностной инструкции. Конечно, там пишут регламенты, но люди не работают по ним — они максимум используют их как материал для собственного обучения или сверяются с ним, если подзабыли. Но нам все еще проще нанять бухгалтера, чем написать суперпрограмму, полностью автоматизирующую его работу. Увы, никто не может предусмотреть все возможные события, комбинации, сбои и изменения.
Сегодня в написании нормального ПО основную проблему составляет вовсе не алгоритм его работы. Проблема начинается, когда единожды написанная программа натыкается на какую-то комбинацию факторов, которая заранее не была предсказана. А это случается все чаще, потому что программы все сложнее, и их все больше.
В результате команда разработки тратит больше времени не на основной код и даже не на оптимизацию производительности, а на достижение высокой прозрачности, сопровождаемости, дорабатываемости и развиваемости, обработку разных исключительных ситуаций — то есть на работу с дополнительной неопределенностью.
Постоянные изменения системы, которые надо накладывать на прошлый функционал, и новые выявленные дефекты постоянно требуют усилий аналитики, разработки, тестирования и сопровождения, то есть вся команда становится неотъемлемой частью программы, ее enabling system.
И чем дольше программный продукт живет, тем сложнее и объемнее он становится, и тем сильнее растет стоимость его дальнейшей сопровождения и доработки — до того момента, когда поддержка превращается в постоянный источник новых дефектов и съедает все оперативные ресурсы команды, и принимается решение "все снести" и написать заново, но более правильно, с более качественной архитектурой...
Вы не можете заменить хорошего работника хорошим регламентом. Финляндия не зря отказалась от проверок школьных программ и детального надзора над деятельностью школьного педагога, а вместо этого сфокусировалась на том, чтобы дать ему хорошее образование и позволить самому делать свое дело и совершенствоваться в нем. Это то, что не может понять наше министерство образования, мечтая все на свете зарегламентировать, покрыть отчетностями и санкциями — и получая деградацию системы, развитие показушничества и бегство из профессии.
Так вот, программирование пойдет по тому же пути. Не надо писать программу — посадите дообученного в данной предметной области AI-агента. Устройсте ему виртуальное обучение в среде других агентов, которые накидают ему разных тестовых сценариев — и на безопасность, и на надежность, и на производительность. Объясните ему его задачи и цели деятельности и позвольте самому принимать решение. Если он работает плохо — откорректируйте dataset и дообучите его. Он сам разберется, что делать, если какой-то сервис не отвечает, если пришло непонятное значение на вход, сам определит срочность обращения. В конце концов, примет неправильное решение — столкнется с последствиями и запомнит на будущее. Да, и если ему надо — то, может, сделает запрос к другому агенту на написание простенькой программы для простой алгоритмической функции.
Конечно, мы привыкли, что программы быстро и экономно работают, а AI-агенты пока крайне ресурсоемки. Но, во-первых, в зависимости от сложности задачи нужны AI-агенты разной мощности: вам как, валидацию текста запросов или сложный текстовый процессор? А во-вторых, железо не стоит на месте: нейроморфные процессоры только начали свое восхождения, и там будет свой экспоненциальный рост производительности. Мощности со временем найдутся. А алгоритмическое решение проблемы бесконечного роста сложности — нет.
https://habr.com/ru/news/796417/
Именно так и меняется человечество — так человек меняет сам себя, свою деятельность. Первобытный охотник добывал себе еду копьем. Крестьянин — пас коров, выкармливая их сеном и зерном, и возделывал землю, удобряя ее навозом. Рабочий изготавливает на заводе новые станки, за которые встают новые рабочие. А когнитариат использует dataset для обучения искусственных агентов и накопления нового знания для дальнейшего развития всего человечества.
Мы на пороге перехода от эры прибавочной стоимости к эре прибавочного знания.
