46 думок про найближче майбутнє: AI, роботи та зміни в цивілізації

Автор: bayes

Скомпільовано: Felix, PANews

У статті систематизовано 46 основних висновків про найближче майбутнє, зосереджуючи увагу на експоненційному стрибку алгоритмів AI, комерціалізації розумних постачальних ланцюгів та вибуху робототехніки.

Розумні технології

1. Люди будуть здивовані прогресом алгоритмів. Увесь світ, включаючи ринки, уряди, армії, компанії та окремих осіб, намагається зрозуміти AI та його вплив, спираючись на продуктивність та закономірності минулого. Навіть кілька інноваційних лабораторій, які стверджують, що вірять у "RSI (рекурсивне самовдосконалення)", здається, вважають, що це залишиться звичайною бізнес-моделлю, просто з додаванням агентів. Моя особиста думка полягає в тому, що в розумному виробництві алгоритми мають багато рівнів (OOMs) для покращення, можливо (лише можливо) до 10, але 4 до 7 виглядають більш реалістично. Теоретично, більше десяти також можливе. Якщо це правда, то справи насправді не розвиваються так, як здається на поверхні, і величезний стрибок незабаром відбудеться. Будь-які події, що відбуваються на цьому шляху, зроблять ситуацію набагато більш дивною, ніж очікувалося.

2. Ми знаходимося на ранній стадії зльоту. Поліпшення AI може стати одним з найвпливовіших етапів в історії. Це ще не визначено, оскільки ми не знаємо, як далеко ми від фізичних та обчислювальних меж розуму.

3. Сьогодні ми на етапі зльоту, дослідження алгоритмів прискорюється. Обчислювальні ресурси все ще обмежені, але вартість часу дослідників знижується, оскільки ви можете відправити агентів виконувати будь-які завдання або здаватися безглуздим. Це може дати результати. Усі нові ідеї несуть оптимізаційний борг, який тепер можна погасити через безнаглядне споживання токенів. Значна кількість досліджень розширить криві закону.

4. Моделі AI, особливо передові, постійно покращуватимуться. Єдина справжня перешкода - це фізика. Моделі стають все більш автономними, розумними і постійно вдосконалюються. Математика та коди підкорюються "масштабу + підкріпленому навчанні", а наступними будуть всі інші сфери. Розрізнення між "перевіряємим" та "неперевіряємим" стане менш значущим. З часом автоматизоване дослідження AI та навчання AI виглядатим дедалі більш пов'язаними. Ефективність навчання моделей тісно пов'язана з загальним навчальним ефектом моделей. Ефективність зразків, креативність та всі інші обмеження будуть вирішені, а потім почнуть наближатися до оптимальних алгоритмів на будь-якому масштабі.

5. Вважати, що довгострокові агенти завжди потребують однакового тривалого навчання, є помилковим, оскільки існує генералізація в часі. Довгі завдання не складаються лише з тривалості. Це пов'язано з помилкою LeCun щодо накопичення помилок (1-e)^n. Насправді відбувається виправлення помилок. Це відбувається на різних масштабах, починаючи з рівня генерації окремого токена до кількох етапів довгих завдань. Частково зростання графіків METR пов'язане з тим, що агенти починають досягати швидкості втечі від виправлення помилок.

6. Інженерна наука глибокого навчання незабаром стане реальністю. Це прискорить досягнення зрілості алгоритмів AI набагато швидше, ніж очікувалося, хоча, як згадувалося вище, навіть теоретично неясно, до якого рівня ця зрілість може досягти. Наприклад, наука про масштабну інваріантність може значно підвищити масштаб та вигоду ефективних експериментів, оскільки експерименти, проведені на одному GPU, можуть показати, як використовувати сто тисяч GPU.

7. У кожній сфері людської технічної діяльності з'являться подібні до "Move 37" моменти прориву, але незабаром ці моменти стануть незначними. Це стосується всіх сфер.

8. Обчислювальна потужність продовжить зростати. Найкращі машини для множення матриць ще не досягли фізичних меж прискорювачів AI. Цифрові кремнієві чіпи мають великий потенціал для вдосконалення. Є багато нових кандидатів на матеріали, чий алгоритмічний борг буде автоматизовано до межі, але поки неясно, який з них є оптимальним рішенням для AI з точки зору простору/енергії/часу/можливості виробництва/вартості. Фотоніка та випадковий кремній є цікавими кандидатами, але також очікується, що сингулярність буде несподіваною.

9. Наскільки далеко лабораторії можуть просунутися, частково залежить від вигод, які приносить автоматизація та масштаб, включаючи вигоди від підвищення глибини алгоритмів. Якщо практика (та теорія) глибокого навчання залишиться на поверхневому рівні, то в довгостроковій перспективі основним захистом більше не буде алгоритм, оскільки вартість відкриття секретів відносно низька. Врешті-решт, дистиляція + дані + час можуть наздогнати масштаб обчислювальної потужності, але цей процес може бути повільним. На даний момент це, здається, частково відповідає нашій ситуації, але навіть так немає гарантії, що це продовжиться.

10. Якщо з розширенням масштабу речі стають менш поверхневими, тоді кожне підвищення автоматизації та масштабу приноситиме вам алгоритмічні секрети, які іншим стають дедалі важче досягти. Це також, здається, частково відповідає нашій ситуації. У будь-якому випадку, врешті-решт, все досягне стадії повернення граничної корисності до масштабу та насичення досліджень. Невідомо, коли ця стадія настане. Вона може бути лише на 2 OOM від сьогоднішнього місця або на 20 OOM. Ніхто не знає.

Розумні постачальні ланцюги

1. Обчислювальна потужність залишатиметься надзвичайно конкурентоспроможною ресурсом принаймні в найближчі кілька років. Але в цей період вона почне комерціалізуватися. Масштаб продовжує зростати, і капітал також приходить, сприяючи постійному розвитку розумної промисловості. Більше машин для множення матриць, більше фабрик та більше енергії незабаром з'являться. Вузькі місця розумного виробництва є лише тимчасовими, навіть якщо існують потенційні економічні бар'єри.

2. Природа розумних постачальних ланцюгів змінюється. Наразі вона сильно зосереджена в лабораторі. Але лабораторії автоматизують свої основні переваги: виявлення переваг дослідників та алгоритмів. Як тільки це почне відбуватися, якщо програмне забезпечення з відкритим кодом слідує за цим, особливо в умовах, коли лабораторії не монополізують моделі дослідників AI, переваги лабораторій будуть полягати в легшому доступі до фінансування, більшій кількості обчислювальних ресурсів, спеціальних даних, комерційних зв'язків та якісних продуктів. Звичайно, це також залежить від того, як зрештою буде вирішено питання глибини алгоритмів, а також від інших факторів.

3. Розподілене навчання зменшить потребу в будівництві єдиного дата-центру, нехай навіть не надвеликих дата-центрів, які отримають певні переваги. Проте за максимальним одноразовим масштабом він все ще не зможе перевершити надвеликий дата-центр.

4. Автоматизовані експерименти AI зможуть широко виявляти алгоритмічні секрети, оскільки ці секрети природно легше поширюються, ніж великомасштабні навчальні запуски. Наразі неясно, наскільки далеко ця тенденція може розвинутися, але очікується, що вона розвиватиметься досить добре. Як зазначалося вище, основна глибина глибокого навчання все ще невідома, і верхня межа цього залежить від неї.

5. Незважаючи на те, що ці фактори виглядають сприятливими, через витрати на обчислення та можливості академічні та відкриті спільноти все ще можуть зіткнутися з розвитком застою. Наприклад, чи є сервери обчислювальної потужності GB300 більш цінними для GLM5.2 чи Fable? Чи варто проводити не передові дослідження в академічних лабораторіях, чи краще будувати Mythos 2 всередині Anthropic? Ринок врешті-решт знайде найбільш затребувані сфери, а наразі лабораторії мають найбільший попит. Це означає, що навіть якщо лабораторії з відкритим кодом мають фінансування, якщо вони ще не закріпили обчислювальні ресурси, вони все ще можуть зіткнутися з більшою нестачею обчислювальних ресурсів. Навіть так, їм потрібно зважити можливість дослідження проти витрат на оренду обчислювальних ресурсів.

6. У середовищі, де можливості AI стають дедалі сильнішими (протягом наступних 0-18 місяців), відкритий код може зіткнутися з соціальними труднощами, особливо в умовах повільного прогресу в безпечному розвитку (наразі дійсно повільно).

7. З надходженням капіталу в лабораторії відкритий код може почати зменшуватися. Тут існує проблема координації, оскільки, крім лабораторій (можливо, ще й урядів), ніхто не хоче, щоб виникала монополія, але якщо цю проблему можна вирішити, і регуляторне середовище буде сприятливим, ситуація може покращитися.

Робототехніка

1. Робототехніка зазнає значних проривів, подібних до ChatGPT, а також до Opus 4.5. Хоча ці два прориви ще не відбулися, вони обов'язково стануться, і завдяки швидкому розвитку AI, включаючи фізичні системи, що прискорюють AI, їх швидкість перевищить очікування. Часовий інтервал між цими двома проривами в робототехніці, ймовірно, не перевищить трьох років.

2. Однак, щоб справді розширити глобальний масштаб робототехніки, можливо, доведеться дочекатися 2030 року або навіть пізніше. Незважаючи на те, що ми щорічно виробляємо близько 100 мільйонів автомобілів, гуманоїдні роботи значно менші за автомобілі. Враховуючи, що щорічно виробляється ще 1 мільярд смартфонів, якщо капітал та алгоритми можуть швидко розвиватися, то до 2030 року виробництво близько 100 мільйонів роботів на рік виглядає цілком реалістично. Виробництво 10 мільйонів роботів на рік, безумовно, можливе, оскільки це вже досягнуто на ринку дронів. Відмінне програмне забезпечення може продемонструвати цінність маломасштабних гуманоїдних роботів, що призведе до безмежного капіталу, пропорційного якості доказів.

3. Сьогоднішні жорсткі обмеження розвитку робототехніки зникнуть, такі як низька ефективність вибірки, відносно обмежені дані, дорогі або складні механічні руки та електродвигуни, складні фрактальні особливості фізичного світу, а також знання про те, як виконувати повсякденні завдання (наприклад, встановлення труб), які не зафіксовані. Світова модель виглядає корисною, але не важливо, що це конкретно. Закони масштабування досліджень будуть постійно розвиватися, поки їхня ефективність не знизиться.

4. Глобальний попит на роботи легко досягає сотень мільярдів одиниць, особливо з урахуванням різних розмірів. Є занадто багато фізичних праць, які варто автоматизувати. Ринок буде намагатися вирішити цю проблему, і люди, ймовірно, не заважатимуть цьому процесу.

Прогрес

1. Наука досягає автоматизації та віртуалізації. Це означає, що більшість прогресу, необхідного світу, буде походити від автоматизованих лабораторій та симуляцій. Наразі не зовсім зрозумілі обчислювальні межі віртуалізації, але лабораторії в галузях, таких як біологія та матеріалознавство, які керуються роботами, усунуть багато вузьких місць і постійно перевершуватимуть перевірені межі віртуалізації, підвищуючи ефективність зразків та чисті вигоди від матеріалізації. Основним чином у кожній сфері поєднуватимуться моделі нейронних мереж, явні симуляції та експерименти в реальному світі, щоб покращити співвідношення виходу до витрат у біології, матеріалознавстві та інших сферах.

2. Закони прогресу всюди. У глибокому навчанні їх називають законами масштабування. Важко передбачити, коли S-крива будь-якої даної кривої досягне насичення, і важко передбачити, коли з'явиться нова S-крива. Тут важливо зрозуміти, що двигун прогресу цивілізації сам слідує закону прогресу. Наш прогрес, ймовірно, досягне насичення, як більшість природних процесів, які ми спостерігаємо, але насправді ми не знаємо, коли це станеться. Період зрілості технологій та цивілізації може бути близьким або далеким. Ми знаходимося на такій історичній стадії: (a) ми майже не інвестуємо ресурси в просування прогресу, але ця ситуація швидко змінюється; (b) ми автоматизуємо безпосередній вихід більшої кількості покращених машин. Ми живемо в цікавий час.

3. Напрямок майбутнього розвитку: розширення вгору чи вбік? Від нуля до одного чи від одного до n? Наскільки великий прогрес людства в ширині та глибині дозволяє всесвіт - це питання, яке залишається відкритим. Ширину легше оцінити, оскільки це схоже на "скільки кроків обчислень дозволяють фізичні закони з цього моменту?". А "глибина" обчислень (в широкому сенсі) невідома. У деяких майбутніх версіях технологічне дерево настільки глибоке, а обчислювальний всесвіт настільки багатий, що ми постійно винаходимо, відкриваємо, переосмислюємо, поки фізичні закони не завадять (якщо вони дійсно завадять). Інші версії можуть бути більш плоскими; ми швидко досягнемо межі менш глибокого технологічного дерева і відносно легко досягнемо зрілості технологій, а потім розширимося вбік, поки не відчуємо задоволення або фізичні закони не завадять.

Капітал та виробництво

1. Більше капіталу та вища інтелектуальність означають більш агресивний капіталізм, що призводить до швидшого досягнення ринкової рівноваги. З часом це, природно, призведе до дефляції та зменшення цін на більшість важливих товарів (включаючи ШІ, їжу, житло, ліки, електроніку, розваги та туризм) до граничних витрат. Звичайно, за умови, що цей процес не буде перешкоджений. Але в деяких випадках це може статися.

2. Гірнича промисловість буде автоматизована. Автомобільний, морський та повітряний транспорт також будуть автоматизовані. Заводи будуть автоматизовані. Робітники на заводах будуть автоматизовані. Центри доставки будуть автоматизовані. Уся підтримка, вдосконалення та масштабування постачальницького ланцюга будуть автоматизовані.

3. Люди надалі матимуть роботу. Що стосується частки людей у загальному населенні, наразі немає чіткої відповіді. Ті, хто стверджує, що ця частка буде високою, занадто впевнені, а ті, хто вважає, що вона буде нульовою, також. Важко уявити, якою мірою люди можуть внести свій внесок у знання в знаннєвих роботах. Якщо суперінтелектуальний лікар коштуватиме лише 20 доларів на місяць, разом із вибором необхідних аналізів та значним покращенням здоров'я завдяки більш сучасним медичним технологіям, то попит на деякі послуги, такі як лікарі, може суттєво знизитися. Однак через нинішню монополію на лікарів ця монополія може зберігатися, і лікарі залишаться затребуваною професією. Попит на розваги може зрости, але витрати на виробництво знизяться, і потреба в людських навичках у розважальній індустрії вже значно зменшилася. Проте ми дуже піклуємося про інших, тому, можливо, ми продовжимо піклуватися про них, і професія актора стане більш прибутковою. Один із способів розглянути цю тенденцію - це подивитися, скільки проміжних ланок є в постачальницькому ланцюзі від сьогоднішнього працівника до споживача. Для TikTok зірок проміжних ланок немає. Для лікарів також немає. А для заводських робітників їх багато. Наскільки робота (a) може бути децентралізована, або (b) може бути витіснена конкуренцією, або (c) має альтернативи, ймовірно, значною мірою визначить її остаточний результат. Цей аналіз досить тонкий, і цю частину важко детально пояснити, але останнє, що потрібно зазначити, це те, що ми не стикаємося з різким падінням попиту. Якщо занадто багато людей залишаться без роботи, а продуктивність / ефективність уряду не зможе підтримувати базовий дохід для всіх / загальне страхування житла, тоді може статися крах попиту.

4. Пов'язане, але не суперечливе твердження: "постійний нижчий клас" може дійсно існувати. У кращому світі, якщо це дійсно так, то це може проявитися у високому обмеженні автономії, а не у серйозному обмеженні доходів. Для більшості людей це врешті-решт не матиме великого впливу, оскільки наша автономія вже значно обмежена в сучасному суспільстві, але це вимагатиме психологічної адаптації, яка може зайняти час і супроводжуватися болем.

Культура та психологія

1. Психологія людей наразі розвивається та адаптується повільно, але це зрештою зміниться. Ключовим є те, щоб змінитися в кращу сторону, що може бути не легко для деяких. Завдяки багатству інтелекту та автоматизаційних технологій ми створимо більш стійкі психологічні механізми, ніж ті, що залишилися від еволюційних проблем адаптації до середовища. Інновації в психіатрії та психології досягнуть тисячолітнього рівня розвитку за кілька десятиліть. Основний стан людства покращиться. Ризики грубих, деградуючих психологічних втручань були надмірно перебільшені, оскільки ми матимемо більш досконалі та різноманітні технології психологічного інжинірингу.

2. У світі з високою невизначеністю люди будуть більш агресивно переслідувати владу, статус і багатство, і в цьому процесі з радістю зраджувати своїх співгромадян. Вони вигадуватимуть різні причини, щоб довести, що їхні дії є добрими, навіть великими. Подивіться навколо, і ви це зрозумієте.

3. Протягом вашого життя ви будете свідком деяких неймовірно огидних вчинків.

4. Наразі існує очевидний подвійний стандарт: ті, хто входить або незабаром увійдуть до 0,01% найбагатших людей, стверджують, що ШІ принесе користь усім, не варто турбуватися про проблеми зайнятості тощо, але вони заявляють, що через рік, п’ять років або навіть двадцять років вони не відмовляться від свого багатства. Люди це бачать і вже починають реагувати. Слід уточнити, що я також не відмовлюсь від свого статусу, але я також не вважаю, що все буде ідеально (і я не є частиною найбагатших 0,01%). Отже, ми стикаємося з ризиком створення несправедливого світу. Деякі люди піклуються про це, і я вважаю, що це питання слід обговорювати частіше. І слід чітко зазначити, що політики США справляються з такими проблемами дуже погано.

5. Можливо, Маск стане першим трильйонером. Загалом, не важко уявити, що в майбутньому попит на чіпи, роботи та космічні кораблі зросте в 1000 разів, і він, ймовірно, зможе захопити значну частину цього ринку.

Координація

1. Очевидно, що всім рівням суспільства потрібна краща координація. Наша поточна розуміння кращої координації має деякі недоліки та ризики, але ми, здається, лише торкаємося поверхні її потенціалу.

2. Принаймні в питаннях ШІ було б непогано провести певну міжнародну координацію. Можливо, нам потрібні договори та облік GPU. Це можна спроектувати так, щоб (a) сповільнити спіральне зростання ворожих військових та урядових сил, і (b) мати мінімальний вплив на науку та інші важливі сфери прогресу. Можливо, ми не зможемо цього досягти, оскільки потужність GPU занадто велика. Ми досягли цього з ядерною зброєю, оскільки, крім божевільних, ніхто насправді не хоче використовувати ядерну зброю.

3. Можливість координації між лабораторіями ШІ для призупинення або уповільнення виробництва ШІ є більшою, ніж у 2023 році. Тут є багато компромісів, але цінність призупинення сьогодні трохи вища, ніж у 2023 році. Коли ми маємо автоматизовані дослідження (зараз лише автоматизоване інженерство), важко стверджувати, що призупинення буде витрачено.

Влада, насильство, безпека, свобода

1. Наш всесвіт може бути дуже вразливим. У сучасному світі можуть існувати певні свободи, які ми не можемо своєчасно координувати та контролювати, і при цьому не можемо підтримувати достатнє управління та свободу, щоб підтримувати правду нашого світу (якщо не використовувати паноптикум). Зверніть увагу, що в такому світі накопичення влади є слизьким схилом. Багато таких світів врешті-решт можуть призвести до труднощів для більшості людей. Якби це не було правдою, було б добре, але, можливо, це правда.

2. Швидкість поширення ШІ буде більшою за нуль, незалежно від наявності різних потенційних обмежень швидкості. У світі є багато комп'ютерів, а кількість операцій з плаваючою комою знизилася до історичного мінімуму. Не сподівайтеся, що все зупиниться.

3. Концепція постійного нижчого класу означає існування постійного вищого класу. Це передбачає, що деякі люди мають більше прав, які часто не мають обґрунтування. Їх основна причина завжди прихована або реалізована, підтримувана насильством. Але, можливо, у світі з розвиненим ШІ люди більше не матимуть жодного законного права на владу, і не матимуть жодних визнаних заслуг або статусу, що перевищує інших людей. Це, можливо, ніколи не стане реальністю, але роздуми над цим питанням можуть стати дедалі важливішими.

4. Інститути зіткнуться з тиском на трансформацію з усіх боків. Шляхи до цього результату різноманітні, деякі під прикриттям безпеки, інші через м'яке розширення влади, верхня межа якого - потужний ШІ + повна автоматизація військових постачань + повна автоматизація зброї. Нам потрібні кращі інститути.

5. У майбутньому можуть виникнути багато "нульових днів". У сферах кібербезпеки, біології, інфраструктури, нейронауки, меметики, фізики тощо. Ми зовсім не розуміємо, які вигоди можуть принести глибина алгоритмів і їх узгодженість у цих сферах, як у плані захисту та надійності, так і в плані руйнування. Для найрозумніших людей у світі алгоритмічна глибина ядерної зброї не є недосяжною.

6. Пов'язане зауваження: у технологічному дереві можуть бути деякі дуже погані речі. Ми про це нічого не знаємо.

7. Ризики, пов'язані з технологією масового робототехніки, включають не лише нові сфери та шляхи для кібератак, але й реальні ризики захоплення та перевороту. Ми повинні серйозно ставитися до цих ризиків і прагнути їх зменшити.

8. Взаємне гарантоване знищення (MAD) (примітка: теоретичне припущення, що дві країни мають можливість повністю знищити одна одну ядерною силою, і що будь-яка сторона, що зазнала нападу, неодмінно відповість ядерним ударом такої ж або більшої сили) базується на технологіях 20-го та початку 21-го століття. Ми переживемо швидкі технологічні зміни, масштаби яких можуть бути порівнянні з тисячолітнім розвитком. Це означає, що MAD не є неминучим. Це питання може бути вирішене, воно не є абсолютно визначеним або повністю руйнівним, оскільки допустимість отримання вирішальної переваги дуже низька, і, можливо, взагалі не може бути досягнута. Раніше деякі люди обговорювали цю тему несерйозно, я вважаю, що це неправильно і безвідповідально. Це одна з найсерйозніших тем, які ми можемо обговорити. Люди мають підстави для занепокоєння, але я вважаю, що настав час серйозно розглянути це питання.

9. Армія, поліція та основні механізми державного контролю будуть автоматизовані і будуть більш інтелектуальними, ніж люди. Що це принесе, вирішуйте самі.

10. Нарешті: лабораторії ШІ можуть зрештою бути націоналізовані. Система в США, здається, не підходить для цього, але в консервативному або ліберальному політичному середовищі є багато шляхів для націоналізації, і ці шляхи, здається, не є неможливими. В принципі, ці лабораторії можуть підтримувати координацію з військовими та розвідувальними службами на задньому плані. Одностороння влада федерального уряду, про яку ми говоримо, також є надзвичайно небезпечною. Приватні компанії мають цю владу, але зазвичай не застосовують насильство, і закон не дозволяє їм це робити. Я не дуже підтримую націоналізацію, але цей світ заплутаний і, очевидно, стає дедалі небезпечнішим.

Відмова від відповідності: цей контент надано лише для загальних брендингових та інформаційних цілей і не є фінансовою, інвестиційною, юридичною чи податковою консультацією. Події, нагороди, онлайн-події або пов’язану інформацію, згадана тут, не слід розглядати як рекомендацію, прохання чи запрошення до купівлі, продажу, торгівлі чи інших операцій з криптоактивами або використання послуг. Криптоактиви є дуже волатильними та можуть призвести до збитків. Послуги WEEX та онлайн-події можуть бути недоступні в усіх регіонах та підпадають під дію чинних законів, правил та вимог до участі. Ви несете відповідальність за забезпечення відповідності використання вами послуг WEEX місцевому законодавству та за ретельну оцінку ризиків перед участю в діяльності, пов’язаній з криптовалютами.