جهان به مستعمره‌ اطلاعاتی چین و آمریکا بدل می‌شود؟

یا زمانی که شخصی در سانفرانسیسکو یا پکن، کل سابقه پزشکی و شخصی همه سیاستمداران، قضات و روزنامه‌نگاران کشور شما (شامل تمام ضعف‌های روحی و روانی آنها، همه فسادهای آنها و...) را بداند، چه اتفاقی برای سیاست در کشور شما طی 20 سال آینده خواهد افتاد؟ آیا در این صورت کشور شما هنوز یک کشور مستقل خواهد بود یا اینکه به یک «مستعمره داده‌ای» بدل خواهد شد؟ زمانی که شما داده کافی دارید، نیاز نیست برای تصرف یک کشور به آنجا سرباز بفرستید. در کنار نابرابری، خطر دیگری که با آن مواجه هستیم، دیکتاتوری‌های دیجیتال است. دیکتاتوری‌هایی که همه را به‌صورت تمام‌وقت پایش می‌کنند.

با توجه به این توضیحات و اینکه بحران کرونا، روند انقلاب صنعتی چهارم را تسریع کرده، آیا آینده دنیا، آینده دیکتاتوری‌های دیجیتال خواهد بود؟ این خطر می‌تواند به شکل یک معادله ساده بیان شود. معادله‌ای که یووال نوح هراری می‌گوید، معادله زندگی در قرن بیست و یکم خواهد بود. این معادله به این صورت نوشته می‌شود: «دانش بیولوژیک ضربدر قدرت محاسباتی ضربدر داده، مساوی است با توانایی برای هک انسان.» این یک معادله خطرناک است. اگر شما به‌اندازه کافی در مورد بیولوژی بدانید و قدرت محاسباتی و داده کافی داشته باشید، می‌توانید بدن و مغز و زندگی انسان‌ها را هک کنید. می‌توانید بهتر از خود یک انسان او را بشناسید و روی تصمیماتش تاثیر بگذارید. می‌توانید نوع شخصیت او را بدانید، دیدگاه‌های سیاسی‌اش را بفهمید، ترجیحات جنسی او را کشف کنید، ضعف‌های روحی و روانی او را بیابید و به عمیق‌ترین ترس‌ها و امیدهای او دست یابید. پس شما با داشتن دانش بیولوژیک کافی، قدرت محاسباتی و داده، می‌توانید بیشتر از اینکه یک فرد خودش را می‌شناسد، او را بشناسید.

سیستمی که ما را بهتر از خودمان می‌شناسد، می‌تواند احساسات و تصمیماتمان را پیش‌بینی کند، می‌تواند احساسات و تصمیمات ما را دستکاری کند و نهایتاً می‌تواند برای ما تصمیم‌گیری کند. در گذشته بسیاری از دولت‌ها و مستبدان می‌خواسته‌اند که چنین کاری را کنند؛ اینکه برای ما تصمیم بگیرند. اما در گذشته هیچ کس به اندازه کافی در مورد بیولوژی نمی‌دانست و هیچ کسی قدرت محاسباتی کافی نداشت. همچنین در گذشته هیچ‌کدام از دولت‌ها و مستبدانی که می‌خواستند برای ما تصمیم‌گیری کنند، داده‌های انبوه مورد نیاز برای هک میلیون‌ها نفر را در اختیار نداشتند. نه گشتاپوی آلمان نازی و نه کاگ‌ب شوروی نتوانستند چنین کاری را انجام دهند چرا که هیچ کدام از این سه چیز را نداشتند. اما به زودی، حداقل تعدادی از شرکت‌ها و دولت‌ها قادر خواهند بود که به‌صورت سیستماتیک همه مردم را هک کنند. ما انسان‌ها باید به این ایده که بیش از این، روح‌های رازآلود نیستیم عادت کنیم. ما اکنون حیوانات قابل هک شدن هستیم.

توانایی برای هک انسان می‌تواند برای اهداف خوب مورد استفاده قرار گیرد. برای مثال می‌توان با هک انسان، سیستم بهداشت و سلامت خیلی بهتری داشت و خدمات درمانی بهتری به بشر ارائه کرد. اما اگر این قدرت به دست استالین‌های قرن 21 بیفتد چه؟ اگر افرادی مثل استالین توانایی هک انسان را به دست آورند، توتالیترترین (تمامیت‌خواه‌ترین) رژیمی که بشر در طول تاریخ به خود دیده است به وجود خواهد آمد و نکته اینجاست که ما همین حالا چند نامزد را برای تبدیل شدن به استالین قرن 21 داریم. فرض کنید کره شمالی به چنین توانایی‌ای دست یابد. این کشور را 20 سال دیگر تصور کنید. جایی که همه مردم آن مجبور هستند دستبندهای بیومتریک به دستشان ببندند و فشار خون، ضربان قلب و فعالیت مغزشان در 24 ساعت شبانه‌روز، به‌طور مداوم پایش شود. فرض کنید شما در کره شمالی زندگی می‌کنید. آنگاه هنگامی‌که از رادیو به حرف‌های رهبر بزرگ گوش می‌دهید، آنها می‌دانند که واقعاً چه احساسی دارید. شما می‌توانید برای رهبر دست بزنید و بخندید اما اگر واقعاً نسبت به او خشمگین باشید آنها خواهند فهمید و فردا، زندگی شما عملاً به اتمام خواهد رسید و در زندان خواهید بود؛ زندانی شبیه به زندان «گولاگ» شوروی.

اگر انقلاب صنعتی چهارم چنین رژیم‌هایی را پدید آورد فکر نکنید که افراد ثروتمند و قدرتمند در امان خواهند بود. می‌توانید از جف بزوس در این مورد بپرسید. در شوروی استالین، دولت اعضای حزب کمونیست را بیشتر از هر کس دیگری پایش می‌کرد. دولت استالین بیشتر وقتش را صرف پایش نخبگان می‌کرد تا مردم عادی. چنین چیزی برای آینده نیز درست خواهد بود. اگر اجازه دهیم انقلاب هوش مصنوعی توانایی هک انسان و ایجاد دیکتاتوری‌های دیجیتال را به استالین‌های قرن بیست و یکم بدهد، درست مانند آنچه در شوروی رخ می‌داد، طبقه ثروتمند و قدرتمند جامعه جهانی بیشتر از مردم عادی مورد پایش و بررسی قرار خواهند گرفت. هرچه در سلسله مراتب در جایگاه بالاتری هستید، بیشتر پایش خواهید شد.

آیا می‌خواهید که مدیر ارشد اجرایی شرکت شما یا رئیس‌جمهور شما بدانند واقعاً در مورد آنها چگونه فکر می‌کنید؟ بنابراین به نفع همه بشر به‌ویژه طبقه نخبه است که جلوی به وجود آمدن دیکتاتوری‌های دیجیتال گرفته شود. حالا اگر ما در عمل جلوی به وجود آمدن دیکتاتوری‌های دیجیتال را بگیریم، توانایی هک انسان باز هم ممکن است آنچه «آزادی انسان» می‌نامیم را، نقض کند و در عمل آن را از بین ببرد. چراکه مادامی که بشر روی هوش مصنوعی تکیه کند و بیشتر از قبل برای ما تصمیم‌سازی کند، قدرت تصمیم‌گیری و اقتدار در مورد انجام دادن یا انجام ندادن کارها، از انسان به الگوریتم‌ها خواهد رسید. این چیزی است که همین حالا هم در حال رخ دادن است. در موارد بسیاری این الگوریتم‌ها هستند که برای ما تصمیم‌سازی می‌کنند. همین حالا میلیاردها نفر به الگوریتم‌های فیس‌بوک اعتماد می‌کنند که به ما بگویند چه چیزی جدید است. الگوریتم‌های گوگل به ما می‌گویند که چه چیزی درست است و چه چیزی غلط. نتفلیکس به ما می‌گوید که چه چیزی تماشا کنیم. همچنین الگوریتم‌های آمازون و علی‌بابا به ما می‌گویند که چه چیزی را بخریم.

تکنولوژی هیچ‌گاه چیزی نبوده است که بتوان با قطعیت در مورد آن صحبت کرد و با توجه به آن، پیشگویی کرد. در قرن بیستم، مردم از تکنولوژی‌های صنعتی برای ساختن انواع مختلف جوامع استفاده کردند: دیکتاتوری‌های فاشیست، رژیم‌های کمونیست و دموکراسی‌های لیبرال. چنین چیزی در قرن بیست و یکم مجدداً رخ خواهد داد. هوش مصنوعی و بیوتکنولوژی قطعاً دنیا را تغییر خواهد داد. اما ما می‌توانیم از آنها برای ساختن جوامع مختلف استفاده کنیم. اگر از چیزهایی که پیش از این به آنها اشاره شد می‌ترسید و احتمالاتی که گفته شد شما را به وحشت می‌اندازد، هنوز هم می‌توانید کاری در مورد آنها انجام دهید. اما برای انجام دادن یک کار اثربخش، نیاز به همکاری در سطح جهانی داریم. هرگاه یک رهبر می‌گوید: «کشور من در اولویت است» ما باید به آن رهبر یادآور شویم که هیچ ملتی نمی‌تواند از جنگ هسته‌ای جان سالم به در ببرد یا به‌تنهایی مانع از فروپاشی اکولوژیک شود. به همین شکل هیچ کشوری نمی‌تواند به‌تنهایی، برای هوش مصنوعی و «مهندسی زیستی» (bioengineering) مقررات وضع کند.  از نظر هراری ما همین حالا در میانه یک جنگ هوش مصنوعی میان ایالات متحده و چین هستیم و بسیاری از کشورها خیلی عقب‌تر از چین و آمریکا هستند. اگر اقدامی جهت توزیع مزایا و قدرت هوش مصنوعی میان همه بشر و همه کشورها نکنیم، هوش مصنوعی احتمال دارد که ثروت بی‌اندازه‌ای را برای تنها تعداد کمی از کشورها به وجود آورد (کشورهایی همچون ایالات متحده و چین که از نظر تکنولوژیک بسیار پیشرفته‌اند) و این در حالی است که بقیه کشورها یا ورشکسته خواهند شد یا به مستعمره‌های داده‌ای (Data colony) کشورهایی چون آمریکا و چین بدل خواهند شد و توسط آنها مورد بهره‌برداری قرار خواهند گرفت. دقت کنید که ما در مورد یک سناریوی علمی تخیلی که طی آن روبات‌ها علیه بشر شورش می‌کنند حرف نمی‌زنیم. ما در مورد هوش مصنوعی بسیار ساده‌تر و اولیه‌تر صحبت می‌کنیم که همان هم برای برهم زدن توازن دنیا و ایجاد درهم‌گسیختگی کافی است.

منبع: تجارت فردا