چه کس دیگری را نمی‌توان در مهارت خلاصه کرد؟

سند: اسلیپی.ام دی

متأسفانه، در این دوره و زمانه، هر چه جدی‌تر و بدون هیچ قید و شرطی کار کنید، احتمال بیشتری وجود دارد که خودتان را در مهارتی غرق کنید که می‌تواند توسط هوش مصنوعی جایگزین شود.

در چند روز گذشته، فهرست‌های جستجوی داغ و کانال‌های رسانه‌ای مملو از عبارت «colleague.skill» بوده‌اند. همچنان که این موضوع در پلتفرم‌های اجتماعی بزرگ در حال داغ شدن است، همانطور که پیش‌بینی می‌شد، تمرکز عموم مردم به سمت نگرانی‌های بزرگی مانند «اخراج‌های هوش مصنوعی»، «استثمار سرمایه» و «جاودانگی دیجیتالی کارگران» معطوف شده است.

این موارد واقعاً باعث اضطراب می‌شوند، اما چیزی که بیشتر از همه من را نگران می‌کند، یک خط توصیه استفاده است که در سند README پروژه نوشته شده است:

«کیفیت مواد خام، کیفیت مهارت را تعیین می‌کند: توصیه می‌شود جمع‌آوری مقالات طولانی که او فعالانه می‌نویسد > پاسخ‌های تصمیم‌گیری > پیام‌های روزانه را در اولویت قرار دهید.»

آنهایی که به راحتی و به طور کامل توسط سیستم استخراج و در سطح پیکسل بازیابی می‌شوند، دقیقاً همان‌هایی هستند که سخت‌ترین کار را انجام می‌دهند.

آنها کسانی هستند که پس از پایان هر پروژه، هنوز می‌نشینند و اسناد گذشته‌نگر می‌نویسند؛ کسانی که وقتی با اختلاف نظر مواجه می‌شوند، حاضرند نیم ساعت وقت صرف تایپ پیام‌های طولانی در چت باکس کنند و منطق تصمیم‌گیری خود را صادقانه تجزیه و تحلیل کنند؛ کسانی که بسیار مسئولیت‌پذیر هستند و با دقت تمام جزئیات کار را به سیستم واگذار می‌کنند.

جدیت، که زمانی محترم‌ترین فضیلت در محل کار بود، اکنون به کاتالیزوری تبدیل شده است که تبدیل کارگران به سوخت هوش مصنوعی را تسریع می‌کند.

کارگران خسته

ما باید یک اصطلاح را دوباره درک کنیم: زمینه.

در زبان روزمره، بافت زمینه‌ی ارتباط است. اما در هوش مصنوعی، به ویژه در دنیای رو به رشد عوامل هوش مصنوعی، زمینه سوختی است که موتور را به حرکت در می‌آورد، خونی است که نبض را حفظ می‌کند و تنها نقطه اتکایی است که به مدل‌ها اجازه می‌دهد در میان هرج و مرج، قضاوت‌های دقیقی انجام دهند.

یک هوش مصنوعیِ عاری از هرگونه زمینه و زمینه‌ای، صرف نظر از اینکه پارامترهایش چقدر تأثیرگذار باشند، صرفاً یک موتور جستجوی فراموشکار است. نمی‌تواند تشخیص دهد که شما چه کسی هستید، نمی‌تواند جریان‌های پنهان در زیر منطق کسب‌وکار را درک کند، و نمی‌تواند بداند که شما در این شبکه بافته شده از محدودیت‌های منابع و بازی‌های بین فردی هنگام تصمیم‌گیری، چه موانع و بده‌بستان‌هایی را تجربه کرده‌اید.

دلیل اینکه «colleague.skill» چنین سر و صدای زیادی به پا کرده است، دقیقاً به این دلیل است که به طور سرد و دقیق به معدنی که مقادیر زیادی از زمینه‌های با کیفیت بالا را در خود جای داده است، متصل می‌شود - نرم‌افزار همکاری سازمانی مدرن.

در پنج سال گذشته، محیط‌های کاری چینی دستخوش یک تحول دیجیتالی آرام اما طاقت‌فرسا شده‌اند. ابزارهایی مانند Feishu، DingTalk و Notion به پایگاه‌های دانش عظیم سازمانی تبدیل شده‌اند.

برای مثال، فیشو، بایت‌دنس علناً اعلام کرده است که تعداد اسنادی که روزانه به صورت داخلی تولید می‌شوند بسیار زیاد است و این شخصیت‌های فشرده، هر جلسه طوفان فکری، هر رویارویی داغ در جلسات و هر سازش استراتژیکی را که توسط بیش از صد هزار کارمند بلعیده می‌شود، به طور خلاصه بیان می‌کنند.

این نفوذ دیجیتال بسیار فراتر از هر دوره قبلی است. روزگاری، دانش گرم بود؛ در ذهن کارمندان باسابقه، در گپ‌های غیررسمی در اتاق چای، پراکنده، خفته بود. اکنون، تمام خرد و تجربه‌ی انسانی به زور از رطوبت تهی شده و بی‌رحمانه در آرایه‌های سرور سرد و بی‌احساس در ابر جای گرفته است.

در این سیستم، اگر مستندات را ننویسید، کار شما دیده نمی‌شود و همکاران جدید نمی‌توانند با شما همکاری کنند. عملکرد کارآمد شرکت‌های مدرن بر اساس چرخه روزانه «ارائه» زمینه توسط هر کارمند به سیستم بنا شده است.

کارکنان جدی، با پشتکار و حسن نیت، بدون هیچ قید و شرطی، فرآیندهای فکری خود را در این سکوهای سرد به نمایش می‌گذارند. آنها این کار را انجام می‌دهند تا مطمئن شوند چرخ‌دنده‌های تیم به طور روان‌تری با هم هماهنگ می‌شوند، تلاش می‌کنند ارزش خود را به سیستم ثابت کنند و به شدت در این دنیای پیچیده تجاری جایی برای خود پیدا کنند. آنها به طور فعال تسلیم نمی‌شوند؛ آنها فقط ناشیانه و با پشتکار خود را با قوانین بقای محیط کار مدرن وفق می‌دهند.

اما دقیقاً همین زمینه باقی‌مانده برای همکاری بین فردی است که به سوخت ایده‌آل برای هوش مصنوعی تبدیل شده است.

بخش مدیریت Feishu قابلیتی دارد که به مدیران ارشد اجازه می‌دهد اسناد و سوابق ارتباطی اعضا را به صورت دسته‌ای صادر کنند. این یعنی مرور پروژه و منطق تصمیم‌گیری که سه سال صرف نوشتنش کردید و شب‌های بی‌شماری را تا دیروقت تحمل کردید، می‌تواند به راحتی در عرض چند دقیقه با یک رابط API در یک فایل فشرده سرد و بی‌احساس بسته‌بندی شود.

وقتی ابعاد انسان‌ها به رابط‌های برنامه‌نویسی کاربردی (API) تقلیل می‌یابد

با محبوبیت انفجاری عبارت «colleague.skill»، برخی مشتقات بسیار ناخوشایند در بخش Issues گیت‌هاب و در پلتفرم‌های اجتماعی مختلف ظاهر شده‌اند.

برخی «ex.ex.skill» را ساخته‌اند و تلاش می‌کنند سوابق چت‌های گذشته در وی‌چت را به هوش مصنوعی بدهند و به او اجازه دهند با همان لحن آشنا به بحث یا ابراز محبت ادامه دهد؛ برخی دیگر «white moonlight.skill» را ساخته‌اند و احساسات غیرقابل لمس را به یک محیط بازی سرد بین فردی تقلیل داده‌اند، عبارات کاوشگرانه را بارها شبیه‌سازی کرده‌اند و با احتیاط به دنبال راه‌حل عاطفی بهینه بوده‌اند؛ و برخی «bosskill» پدرگونه را ساخته‌اند که به طور پیشگیرانه عبارات PUA سرکوبگر را در فضای دیجیتال می‌جوند و یک دفاع روانی غم‌انگیز برای خود می‌سازند.

سناریوهای استفاده از این مهارت‌ها کاملاً از حوزه بهره‌وری کاری خارج شده‌اند. ما، بی‌آنکه بدانیم، در به‌کارگیری منطق خشکِ استفاده از ابزارها برای تشریح و شیءانگاری آن موجودات زنده و گوشتی مهارت پیدا کرده‌ایم.

فیلسوف آلمانی، مارتین بوبر، زمانی اظهار داشت که رنگ‌های اساسی روابط انسانی به دو حالت کاملاً متفاوت خلاصه می‌شوند: «من و تو» و «من و آن».

در مواجهه‌ی «من و تو»، ما از تعصب فراتر می‌رویم و دیگری را به عنوان یک شکل کامل و محترم از زندگی در نظر می‌گیریم. این پیوند بی‌قید و شرط گشوده، سرشار از پیش‌بینی‌ناپذیریِ پرشور است و به دلیل صداقتش، به‌ویژه شکننده به نظر می‌رسد؛ با این حال، هنگامی که در سایه‌ی «من و آن» قرار می‌گیرد، انسان‌های زنده به اشیایی تقلیل می‌یابند که می‌توان آن‌ها را از هم جدا، تحلیل و دسته‌بندی کرد. تحت این نگاهِ به‌شدت فایده‌گرایانه، تنها چیزی که برای ما مهم است این است که «این چیز چه فایده‌ای برای من دارد؟»

ظهور محصولاتی مانند «ex.ex.skill» نشان‌دهنده‌ی تهاجم کامل عقلانیت ابزاری «من و آن» به خصوصی‌ترین حوزه‌های عاطفی است.

در یک رابطه واقعی، یک فرد سه‌بعدی، پر از چین و چروک، سرشار از تناقضات و لبه‌های ناهموار است؛ واکنش‌های فرد دائماً بر اساس موقعیت‌های خاص و تعاملات عاطفی تغییر می‌کند. واکنش شریک سابق شما به یک جمله مشابه ممکن است هنگام بیدار شدن از خواب صبح در مقایسه با بعد از کار کردن تا دیروقت در شب کاملاً متفاوت باشد.

اما وقتی یک فرد را در یک مهارت خلاصه می‌کنید، چیزی که از او جدا می‌کنید صرفاً بخشی از اوست که اتفاقاً در آن پیوند خاص برای شما «مفید» یا «مؤثر» است. فردی که در ابتدا خونگرم و خودآگاه بود، در این پالایش بی‌رحمانه، کاملاً از روح خود تهی می‌شود و به یک «رابط کاربردی» تبدیل می‌شود که می‌توانید هر زمان که خواستید آن را وصل و قطع کنید.

باید اذعان کرد که هوش مصنوعی این سرمای وحشتناک را از هیچ خلق نکرده است. پیش از ظهور هوش مصنوعی، ما مدت‌ها عادت داشتیم به دیگران برچسب بزنیم و «ارزش عاطفی» و «وزن شبکه‌ای» هر رابطه را دقیقاً اندازه‌گیری کنیم. برای مثال، ما شرایط افراد را در بازار همسریابی به صورت کمّی در جداولی ثبت می‌کنیم؛ همکاران را در محل کار به دو دسته «کسانی که می‌توانند کار کنند» و «کسانی که تنبلی می‌کنند» طبقه‌بندی می‌کنیم. هوش مصنوعی صرفاً این استخراج ضمنی و کاربردی بین افراد را کاملاً آشکار می‌کند.

انسان‌ها مسطح شده‌اند و تنها جنبه‌ی «چه فایده‌ای برای من دارد» باقی مانده است.

پتینه الکترونیکی

در سال ۱۹۵۸، مایکل پولانی، فیلسوف مجارستانی-بریتانیایی، کتاب «دانش شخصی» را منتشر کرد. در این کتاب، او یک مفهوم نافذ را مطرح کرد: دانش ضمنی.

پولانی جمله معروفی دارد که می‌گوید: «ما بیشتر از آنچه می‌توانیم بگوییم، می‌دانیم.»

او مثالی از یادگیری دوچرخه‌سواری زد. یک سوارکار ماهر که در باد سر می‌خورد، می‌تواند در هر شیب گرانشی تعادل کاملی داشته باشد، اما نمی‌تواند شهود ظریف آن لحظه از بدن را با استفاده از فرمول‌های خشک فیزیک یا کلمات بی‌معنی برای یک مبتدی به طور دقیق توصیف کند. آنها سوارکاری بلدند، اما نمی‌توانند آن را بیان کنند. این دانش که قابل رمزگذاری یا بیان نیست، دانش ضمنی است.

محیط کار پر از چنین دانش ضمنی است. یک مهندس ارشد ممکن است با نگاهی اجمالی به گزارش‌ها، مشکل را دقیقاً تشخیص دهد، اما مستندسازی این «شهود» که بر اساس هزاران آزمون و خطا ساخته شده است، برای او دشوار است؛ یک فروشنده عالی ممکن است ناگهان سر میز مذاکره ساکت شود، و فشار و زمان آن سکوت چیزهایی هستند که هیچ کتابچه راهنمای فروشی نمی‌تواند آنها را ثبت کند؛ یک مدیر منابع انسانی باتجربه می‌تواند تنها با توجه به نیم ثانیه اجتناب چشمی یک کاندیدا در طول مصاحبه، چرندیات موجود در رزومه را تشخیص دهد.

آنچه «همکار.مهارت» می‌تواند استخراج کند، صرفاً دانش صریحی است که قبلاً مکتوب یا گفته شده است. می‌تواند اسناد گذشته‌نگر شما را ثبت کند، اما نمی‌تواند مشکلاتی را که هنگام نوشتن آنها با آنها روبرو بوده‌اید، ثبت کند؛ می‌تواند پاسخ‌های تصمیم‌گیری شما را تکرار کند، اما نمی‌تواند شهودی را که هنگام تصمیم‌گیری داشته‌اید، تکرار کند.

آنچه سیستم از خود بیرون می‌کشد، همیشه فقط سایه‌ای از یک شخص است.

اگر داستان اینجا به پایان برسد، صرفاً یک تقلید ناشیانه‌ی دیگر از بشریت توسط فناوری است.

اما وقتی فردی در یک مهارت خلاصه می‌شود، این مهارت ثابت نمی‌ماند. از آن برای پاسخ دادن به ایمیل‌ها، نوشتن اسناد جدید و تصمیم‌گیری‌های جدید استفاده خواهد شد. به عبارت دیگر، این سایه‌های تولید شده توسط هوش مصنوعی شروع به تولید زمینه‌های جدید می‌کنند.

و این زمینه‌های تولید شده توسط هوش مصنوعی در Feishu و DingTalk ذخیره می‌شوند و به مواد آموزشی برای دور بعدی تقطیر تبدیل می‌شوند.

در اوایل سال ۲۰۲۳، تیم‌های تحقیقاتی از دانشگاه آکسفورد و دانشگاه کمبریج به طور مشترک مقاله‌ای در مورد «فروپاشی مدل» منتشر کردند. این تحقیق نشان داد که وقتی مدل‌های هوش مصنوعی به صورت تکراری با استفاده از داده‌های تولید شده توسط سایر هوش‌های مصنوعی آموزش داده می‌شوند، توزیع داده‌ها به طور فزاینده‌ای باریک می‌شود. ویژگی‌های نادر، حاشیه‌ای، اما بسیار واقعی انسان به سرعت محو می‌شوند. تنها پس از چند نسل آموزش روی داده‌های مصنوعی، مدل‌ها آن داده‌های پیچیده و طولانی انسانی واقعی را کاملاً فراموش می‌کنند و در عوض، محتوایی بسیار معمولی و همگن تولید می‌کنند.

در سال ۲۰۲۴، مجله نیچر (Nature) نیز یک مقاله تحقیقاتی منتشر کرد که در آن به این نکته اشاره شده بود که آموزش نسل‌های آینده مدل‌های یادگیری ماشینی با مجموعه داده‌های تولید شده توسط هوش مصنوعی، خروجی‌های آنها را به شدت آلوده خواهد کرد.

این مثل آن تصاویر میم (meme images) است که در اینترنت پخش می‌شوند، در اصل یک اسکرین‌شات با کیفیت بالا هستند که توسط افراد بی‌شماری فوروارد، فشرده و دوباره فوروارد می‌شوند. هر انتقال، تعدادی پیکسل را از دست می‌دهد و مقداری نویز اضافه می‌کند. در نهایت، تصویر تار می‌شود و با پتینه الکترونیکی پوشانده می‌شود.

وقتی زمینه‌ی انسانیِ واقعی و دارای دانش ضمنی از بین برود، و سیستم فقط بتواند خود را با پوششی از سایه‌ها آموزش دهد، چه چیزی باقی خواهد ماند؟

چه کسی ردپای ما را پاک می‌کند؟

آنچه باقی می‌ماند فقط مزخرفات درست است.

وقتی رودخانه دانش در یک طغیان بی‌پایان و خودخوری هوش مصنوعی علیه هوش مصنوعی خشک شود، هر چیزی که سیستم وارد و خارج می‌کند، ناگزیر به شدت استاندارد، بسیار ایمن، اما به طرز ناامیدکننده‌ای توخالی خواهد شد. شما گزارش‌های هفتگی بی‌نقص و بی‌نقص، ایمیل‌های بی‌شماری که نمی‌توان ایرادی به آنها گرفت را خواهید دید، اما هیچ بویی از افراد زنده در آنها نیست، هیچ بینش واقعاً ارزشمندی وجود ندارد.

این فروپاشی بزرگ دانش به این دلیل نیست که مغز انسان کند شده است؛ تراژدی واقعی در این واقعیت نهفته است که ما حق تفکر و مسئولیت واگذاری زمینه را به سایه‌های خودمان واگذار کرده‌ایم.

چند روز پس از محبوبیت انفجاری «colleague.skill»، پروژه‌ای به نام «anti-distill» بی‌سروصدا در گیت‌هاب ظاهر شد.

نویسنده‌ی این پروژه نه سعی در حمله به مدل‌های بزرگ داشت و نه هیچ بیانیه‌ی بزرگی نوشت. او صرفاً ابزار کوچکی ارائه داد تا به کارکنان کمک کند به‌طور خودکار متن‌های طولانی و به‌ظاهر معقول اما در واقع پر از نویز منطقی و بی‌اثر را در Feishu یا DingTalk تولید کنند.

هدف او ساده است: پنهان کردن دانش اصلی‌اش قبل از اینکه توسط سیستم استخراج شود. از آنجایی که سیستم دوست دارد «متن‌های طولانیِ نوشته‌شده‌ی فعال» را ضبط کند، بیایید مقداری چرت‌وپرتِ بی‌ارزش به خوردش بدهیم.

این پروژه مثل «همکار.مهارت» منفجر نشد؛ حتی کمی کوچک و ناتوان به نظر می‌رسد. استفاده از جادو برای شکست دادن جادو اساساً هنوز در چارچوب قوانین بازی تعیین‌شده توسط سرمایه و فناوری می‌چرخد. این نمی‌تواند روند رو به رشد سیستمی را که بیشتر به هوش مصنوعی متکی است و به طور فزاینده‌ای افراد واقعی را نادیده می‌گیرد، تغییر دهد.

اما این مانع از آن نمی‌شود که این پروژه به تراژیک‌ترین و شاعرانه‌ترین و عمیقاً استعاری‌ترین صحنه در کل این درام پوچ تبدیل نشود.

ما تلاش می‌کنیم ردپایی در سیستم باقی بگذاریم، اسناد دقیقی می‌نویسیم، تصمیمات دقیقی ارائه می‌دهیم، سعی می‌کنیم ثابت کنیم که زمانی در این ماشین عظیم شرکت‌های مدرن وجود داشته‌ایم، و ثابت می‌کنیم که ارزشمند هستیم. با این حال، ما متوجه نیستیم که این ردپاهای بسیار جدی در نهایت به پاک‌کن‌هایی تبدیل می‌شوند که ما را پاک می‌کنند.

اما از زاویه دیگری که به آن نگاه کنیم، این ممکن است یک بن‌بست کامل نباشد.

چون چیزی که اون پاک‌کن پاک می‌کنه همیشه فقط «گذشته‌ی تو» هست. مهارتی که در یک سند گنجانده شده است، صرف نظر از اینکه منطق ثبت آن چقدر هوشمندانه باشد، اساساً فقط یک تصویر لحظه‌ای ثابت است. در لحظه‌ای که صادر شده قفل شده است، و تنها می‌تواند بی‌وقفه در چارچوب فرآیندها و منطق تثبیت‌شده بچرخد و به مواد مغذی منسوخ‌شده متکی باشد. نه با غریزه‌ی آشوب ناشناخته روبرو می‌شود و نه توانایی خود-تکاملی در مواجهه با شکست‌های دنیای واقعی را دارد.

وقتی آن تجربیات به‌شدت استاندارد و فرموله‌شده را تحویل می‌دهیم، دست‌هایمان را هم باز می‌کنیم. تا زمانی که ما به تلاش برای رسیدن به خواسته‌هایمان ادامه دهیم، و پیوسته مرزهای شناختی خود را بشکنیم و بازسازی کنیم، آن سایه که در ابر معلق است، برای همیشه فقط می‌تواند ردپای ما را دنبال کند.

انسان‌ها الگوریتم‌های سیال هستند.