021-22889554
021-26703715
مشاوره آموزشی رایگان

021-22889554  |  021-26703715 مشاوره آموزشی رایگان

چرا فاشیسم این قدر وسوسه‌برانگیز است -- و چطور ممکن است اطلاعات شما به آن قدرت بدهد

Yuval Noah Harari

Why fascism is so tempting — and how your data could power it

In a profound talk about technology and power, author and historian Yuval Noah Harari explains the important difference between fascism and nationalism -- and what the consolidation of our data means for the future of democracy. Appearing as a hologram live from Tel Aviv, Harari warns that the greatest danger that now faces liberal democracy is that the revolution in information technology will make dictatorships more efficient and capable of control. "The enemies of liberal democracy hack our feelings of fear and hate and vanity, and then use these feelings to polarize and destroy," Harari says. "It is the responsibility of all of us to get to know our weaknesses and make sure they don't become weapons." (Followed by a brief conversation with TED curator Chris Anderson)


تگ های مرتبط :

Algorithm, AI, Biotech
سلام به همه. کمی خنده‌دار است، چون نوشته بودم که انسان‌ها دیجیتالی خواهند شد، اما فکر نمی‌کردم این‌قدر سریع اتفاق بیفتد و برای خودم اتفاق بیفتد. اما من اینجا هستم، به صورت یک آواتار دیجیتالی، و شما هم که هستید، پس شروع می‌کنیم. و بیایید با یک سوال شروع کنیم. امروز چند نفر اینجا فاشیست هستند؟ (خنده) خوب، گفتن آن کمی دشوار است، چون یادمان رفته که فاشیسم چیست. امروز مردم از عبارت «فاشیست» بعنوان نوعی سوءاستفاده کلی استفاده می‌کنند. یا اینکه آنها فاشیسم را با ملی‌گرایی اشتباه می‌گیرند.
خوب پس بیایید چند دقیقه وقت بگذاریم و معنای فاشیسم، و تفاوت آن با ملی‌گرایی را مشخص کنیم. گونه‌های ملایم‌تر ملی‌گرایی در میان خیراندیش‌ترین انسان‌ها وجود داشته است. ملت‌ها اجتماع میلیون‌ها غریبه هستند که یکدیگر را نمی‌شناسند. برای مثال، من هشت میلیون نفری را که شهروندی اسرائیل را با آنها شریک هستم نمی‌شناسم. اما با تشکر از ملی‌گرایی، همه ما می‌توانیم به یکدیگر اهمیت بدهیم و به شکلی موثر همکاری کنیم. این خیلی خوب است. بعضی افراد، مثل جان لنون، تصور می‌کنند بدون ملی‌گرایی، دنیا بهشتی پر از صلح و آرامش خواهد بود.
اما بیشتر این احتمال می‌رود که بدون ملی‌گرایی، در آشوبی قبیله‌ای زندگی می‌کردیم. اگر امروز به خوشبخت‌ترین و آرام‌ترین کشورهای دنیا نگاه کنید، کشورهایی مثل سوئد و سوئیس و ژاپن، خواهید دید که آنها احساس ملی‌گرایی بسیار قدرتمندی دارند. در مقابل، کشورهایی که فاقد حس ملی‌گرایی پرقدرت هستند، مثل کنگو و سومالی و افغانستان، به خشونت و فقر متمایل شده‌اند. پس فاشیسم چیست، و چه فرقی با ملی‌گرایی دارد؟ خوب، ملی‌گرایی به من می‌گوید که ملت من یکتا است، و من تعهدات بخصوصی به ملتم دارم. فاشیسم، در مقابل، به من می‌گوید که ملت من برترین است،
و من به آن تعهدات انحصاری دارم. نیازی نیست که به کسی یا چیزی غیر از ملتم اهمیت بدهم. معمولاً، البته، مردم چندین هویت دارند و به گروه‌های متفاوتی وفادار هستند. برای مثال، من می‌توانم یک میهن‌پرست خوب و وفادار به کشورم باشم، و در عین حال، به خانواده‌ام، محله‌ام، تخصصم، انسانیت واحد، و حقیقت و زیبایی هم وفادار باشم. البته، وقتی هویت‌ها و وفاداری‌های متفاوتی دارم، گاهی تناقض و پیچیدگی به وجود می‌آید. اما، خوب، چه کسی تا به حال به شما گفته که زندگی آسان است؟ زندگی پیچیده است.
با آن کنار بیایید. فاشیسم وقتی اتفاق می‌افتد که مردم سعی کنند پیچیدگی‌ها را نادیده بگیرند تا زندگی را برای خودشان خیلی آسان کنند. فاشیسم غیر از هویت ملی، تمام هویت‌ها را انکار می‌کند و اصرار می‌کند که من تنها به ملت خودم متعهد هستم. اگر ملت من بخواهد که خانواده‌ام را قربانی کنم، پس خانواده‌ام را قربانی خواهم کرد. اگر ملت از من بخواهد که میلیون‌ها نفر را بکشم، پس میلیون‌ها نفر را خواهم کشت. و اگر ملت من از من بخواهد که به حقیقت و زیبایی خیانت کنم، پس باید به حقیقت و زیبایی خیانت کنم. برای مثال، یک فاشیست هنر را چطور ارزیابی می‌کند؟
یک فاشیست چطور تصمیم می‌گیرد که یک فیلم خوب است یا بد؟ خوب، این خیلی، خیلی، خیلی ساده است. واقعاً فقط یک معیار وجود دارد: اگر فیلم در خدمت منافع ملت باشد، فیلم خوبی است؛ اگر فیلم در خدمت منافع ملت نباشد، فیلم بدی است. همین. به همین صورت، یک فاشیست چطور تصمیم می‌گیرد چه چیزهایی باید در مدرسه آموزش داده شوند؟ دوباره، خیلی ساده است. فقط یک معیار وجود دارد: به بچه‌ها چیزهایی را آموزش می‌دهید که در خدمت منافع ملت هستند. حقیقت ذره‌ای اهمیت ندارد. حال، وقایع دهشتناک جنگ جهانی دوم و هولوکاست
عواقب فجیع این طرز فکر را به ما یادآور می‌شوند. اما معمولاً، وقتی درباره معایب فاشیسم صحبت می‌کنیم، این کار را به شکلی غیر موثر انجام می‌دهیم، زیرا تمایل داریم فاشیسم را هیولایی خوفناک تصور کنیم، بدون اینکه واقعاً توضیح بدهیم چه چیز آن این قدر فریبا است. کمی شبیه این فیلم‌های هالیوودی است که آدم بدها را -- ولدمورت یا سائرون یا دارت ویدر -- کریه و خبیث و بی‌رحم نمایش می‌دهند. آنها حتی نسبت به حامیانِ خودشان هم بی‌رحم هستند. وقتی این فیلم‌ها را می‌بینم، هیچ وقت نمی‌فهمم -- چرا هرگز کسی باید به دنباله روی از خزنده چندش‌آوری مثل ولدمورت وسوسه شود؟ مشکل شخصیت بد در زندگی واقعی این است،
که بد لزوماً زشت به نظر نمی‌آید. می‌تواند بسیار زیبا باشد. مسیحیت از این نکته به خوبی آگاه است، چرا که در هنر مسیحی، در [مقابل] هالیوود، شیطان معمولاً در سیمای شاهدی زیبارو است. به همین دلیل مقاومت در برابر وسوسه‌های شیطان این قدر سخت است، و به همین دلیل مقاومت در برابر وسوسه فاشیسم هم دشوار است. فاشیسم کاری می‌کند که مردم فکر کنند به زیباترین و مهم‌ترین چیز دنیا تعلق دارند -- ملت. و بعد مردم فکر می‌کنند، «خوب، به ما یاد دادند که فاشیسم زشت است. اما وقتی به آینه نگاه می‌کنم چیزی بسیار زیبا می‌بینم،
پس من نمی‌توانم یک فاشیست باشم، درست؟» اشتباه است. این مشکل فاشیسم است. وقتی در آینه فاشیست نگاه می‌کنید، خودتان را خیلی زیباتر از آنچه واقعاً هستید می‌بینید. در دهه ۱۹۳۰، وقتی آلمانی‌ها در آینه فاشیست نگاه کردند، آلمان را زیباترین چیز دنیا دیدند. اگر امروز، روس‌ها در آینه فاشیست نگاه کنند، روسیه را زیباترین چیز دنیا خواهند دید. و اگر اسرائیلی‌ها در آینه فاشیست نگاه کنند، اسرائیل را زیباترین چیز دنیا خواهند دید. این به آن معنا نیست که دوباره با دهه ۱۹۳۰ روبرو هستیم. فاشیسم و حکومت‌های استبدادی ممکن است بازگردند،
اما به شکلی تازه بازخواهند گشت، گونه‌ای که تطابق خیلی بیشتری با واقعیت‌های فناوری جدید قرن ۲۱ام داشته باشد. در دوران باستان، زمین مهم‌ترین دارایی دنیا بود. بنابراین سیاست، تلاش برای کنترل زمین بود. و حکومت استبدادی به این معنا بود که تمام سرزمین به حاکم یا گروه کوچکی ثروتمند تعلق داشت. و در عصر جدید، ماشین‌ها مهم‌تر از سرزمین شدند. سیاست به تلاش برای کنترل ماشین‌ها بدل شد. و معنای حکومت استبدادی این شد که تعداد بسیار زیادی ماشین در دستان یک حکومت یا عده کمی نخبه متمرکز شود.
حالا اطلاعات دارد جای زمین و ماشین را به عنوان مهم‌ترین دارایی می‌گیرد. سیاست‌ها به تلاش برای کنترل جریان اطلاعات تبدیل شده‌اند. و حالا حکومت استبدادی یعنی مقدار بسیار زیادی اطلاعات در دستان حکومت یا عده اندکی نخبه قرار داشته باشد. بزرگترین خطری که حالا دموکراسی آزاد را تهدید می‌کند این است که انقلاب در فناوری اطلاعات حکومت‌های استبدادی را پربازده‌تر از حکومت‌های دموکراسی کند. در قرن ۲۰ام، دموکراسی و نظام سرمایه‌داری فاشیسم و کمونیسم را شکست دادند چرا که دموکراسی در پردازش اطلاعات و تصمیم‌گیری بهتر بود. با فناوری قرن ۲۰ام،
تمرکز مقدار بسیار زیادی اطلاعات و مقدار بسیار زیادی قدرت در یک جا اصلاً کارآمد نبود. اما این قانون طبیعت نیست که پردازش متمرکز اطلاعات همیشه بازدهی کمتری نسبت به پردازش پراکنده اطلاعات داشته باشد. با اوج گرفتن هوش مصنوعی و یادگیری ماشین، ممکن است پردازش پربازده حجم بسیار زیاد اطلاعات در یک نقطه امکان پذیر شود، و همه تصمیم‌گیری‌ها در یک نقطه انجام شود، و بعد پردازش متمرکز اطلاعات بازدهی بیشتری نسبت به پردازش پراکنده اطلاعات خواهد داشت. و بعد ناتوانی عمده رژیم‌های اقتدارگرا در قرن ۲۰ام --
تلاش برای متمرکز کردن تمام اطلاعات در یک نقطه -- به بزرگترین برتری آنها بدل خواهد شد. خطر تکنولوژیکی دیگری که آینده دموکراسی را تهدید می‌کند ادغام فناوری اطلاعات با فناوری زیستی است، که ممکن است منجر به ایجاد الگوریتم‌هایی شود که من را بهتر از خودم بشناسند. و وقتی چنین الگوریتم‌هایی داشته باشید، یک سیستم بیرونی، مانند حکومت، نه تنها خواهد توانست تصمیمات مرا پیش‌بینی کند، بلکه خواهد توانست احساسات و عواطف من را هم دستکاری کند. شاید یک دیکتاتور نتواند مراقبت‌های بهداشتی خوبی به من ارائه دهد، اما می‌تواند کاری کند که عاشقش شوم
و کاری کند که از مخالفانش متنفر باشم. دموکراسی نجات از چنین پیشرفتی را دشوار خواهد یافت، زیرا، در نهایت، دموکراسی بر اساس منطق بشری بنا نشده است؛ بنیان آن بر احساسات بشری است. در طول انتخابات‌ها و همه‌پرسی‌ها، از شما نمی‌پرسند، «چه فکر می‌کنی؟» در واقع از شما می‌پرسند، «چه احساسی داری؟» و اگر کسی بتواند احساسات شما را به شکلی مؤثر دستکاری کند، دموکراسی یک خیمه‌شب‌بازی احساسی خواهد بود. خوب برای جلوگیری از بازگشت فاشیسم و ظهور حکومت‌های استبدادی جدید چه می‌توان کرد؟ سوال اولی که با آن روبرو هستیم این است: چه کسی اطلاعات را کنترل می‌کند؟
اگر شما یک مهندس هستید، راه‌هایی برای جلوگیری از تجمع مقدار بسیار زیاد اطلاعات در دستان بسیار اندک پیدا کنید. و راه‌هایی پیدا کنید تا مطمئن شویم که پردازش پراکنده اطلاعات حداقل به اندازه پردازش متمرکز آنها بازدهی دارد. این بهترین راه حراست از دموکراسی خواهد بود. و برای بقیه ما که مهندس نیستند، سوال شماره یکی که روبروی ماست این است که اجازه ندهیم آنها که اطلاعات را کنترل می‌کنند ما را دستکاری کنند. دشمنان دموکراسی آزاد روشی دارند. آنها احساست ما را هک می‌کنند.
نه ایمیل‌های ما را، نه حساب‌های بانکی‌مان را -- آنها احساس ترس و نفرت و غرور ما را هک می‌کنند، و بعد از این احساسات برای قطبی ساختن و از درون نابود کردن دموکراسی استفاده می‌کنند. این در واقع روشی است که سیلیکون ولی برای فروش محصول به ما پیشگام آن است. اما حالا، دشمنان دموکراسی از همین روش استفاده می‌کنند تا به ما ترس و نفرت و غرور بفروشند. آنها نمی‌توانند این احساسات را از هیچ بسازند. پس ضعف‌هایی که از پیش داریم را پیدا می‌کنند. و از آنها علیه ما استفاده می‌کنند. و بنابراین این مسئولیت همه ماست که ضعف‌های خود را بشناسیم
و اطمینان حاصل کنیم که آنها به سلاحی در دستان دشمنان دموکراسی تبدیل نخواهند شد. شناخت ضعف‌هایمان همچنین به ما کمک می‌کند تا از دام آینه فاشیست دوری کنیم. همان‌طور که پیش‌تر توضیح دادیم، فاشیسم از غرور ما سوءاستفاده می‌کند. کاری می‌کند که خود را خیلی زیباتر از آنچه هستیم ببینیم. این فریب است. اما اگر واقعاً خودتان را بشناسید، در دام این چاپلوسی‌ها نخواهید افتاد. اگر کسی آینه‌ای پیش چشمان شما گذاشت که بخش‌های زشت شما را پنهان می‌کرد و باعث می‌شد خودتان را خیلی زیباتر و خیلی مهم‌تر از آنچه واقعاً هستید ببینید،
فقط آن آینه را بشکنید. متشکرم. (تشویق) کریس اندرسون: یووال، متشکرم. جالب بود. خیلی خوب است که تو را دوباره می‌بینیم. خوب، اگر درست متوجه شده باشم، اینجا به ما از دو خطر بزرگتر هشدار می‌دهی. یکی تجدید حیات احتمالی گونه فریبنده‌ای از فاشیسم، اما نزدیک به آن، حکومت‌های استبدادی که ممکن است کاملاً فاشیستی نباشند، اما تمام اطلاعات را کنترل کنند. به نظر من نگرانی سومی هم هست که بعضی افراد اینجا آن را بیان کرده‌اند، و آن این است که، نه دولت‌ها، بلکه شرکت‌های بزرگ همه اطلاعات ما را کنترل کنند.
تو چه می‌گویی، و چقدر باید در این باره نگران باشیم؟ یووال نوح هراری: خوب، در انتها، تفاوت خیلی زیادی بین شرکت‌ها و دولت‌ها وجود ندارد، چون همان‌طور که گفتم، سوال این است: چه کسی اطلاعات را کنترل می‌کند؟ آن دولت واقعی است. اگر شما آن را یک شرکت یا یک دولت بخوانید -- اگر این یک شرکت است و واقعاً اطلاعات را کنترل می‌کند، این همان دولت واقعی ما است. پس تفاوت بیشتر ظاهری است تا واقعی. ک ا: اما به هر حال، حداقل با شرکت‌ها، می‌توان ساز و کارهایی برای بازار تصور کرد که قابل فروپاشی هستند. منظور من این است که اگر مصرف کنندگان تصمیم بگیرند
که کمپانی دیگر در جهت منافع آنها عمل نمی‌کند، در به روی بازار دیگری گشوده می‌شود. از این تصور ساده‌تر به نظر می‌رسد که مثلاً، شهروندان به پا خیزند و حکومتی که کنترل همه چیز را در دست دارد را پایین بکشند. ی ن ه: خوب، هنوز به آنجا نرسیده‌ایم، اما باز هم، اگر یک شرکت شما را بهتر از خودتان بشناسد -- حداقل آنقدر بشناسد که بتواند عمیق‌ترین احساسات و تمایلات شما را دستکاری کند، و شما حتی متوجه آن هم نخواهید شد -- فکر می‌کنید که این خود واقعی‌تان هستید. پس روی کاغذ، بله، در تئوری می‌توانید علیه یک شرکت قیام کنید، همان طور که در تئوری، می‌توانید علیه یک حکومت استبدادی قیام کنید.
اما در عمل، بسیار دشوار است. ک ا: پس در «هومو دئوس،» بحث می‌کنی که این قرنی خواهد بود که انسان‌ها به نوعی خدا شوند، یا از راه توسعه هوش مصنوعی یا از طریق مهندسی ژنتیک. آیا این چشم‌انداز تغییر یا فروپاشی نظام سیاسی، تاثیری بر نقطه نظر تو از آن احتمال گذاشته است؟ ی ن ه: خوب، فکر می‌کنم حتی احتمال آن را بیشتر می‌کند، و حتی شاید زودتر اتفاق بیفتد، چون در زمان بحران، انسان‌ها آماده پذیرفتن خطرهایی هستند که در شرایط دیگر قبول نمی‌کردند. و مردم می‌خواهند تمام فناوری‌های پرخطر با نفع زیاد را امتحان کنند.
پس این گونه بحران‌ها ممکن است در خدمت همان عملکردی باشند که دو جنگ جهانی در قرن ۲۰ام بودند. دو جنگ جهانی به پیشرفت فناوری‌های جدید و خطرناک شتاب چشم‌گیری داد. و همین اتفاق ممکن است در قرن ۲۱ام هم بیفتد. منظور من این است که باید کمی دیوانه باشی که مثلاً در مهندسی ژنتیک خیلی تندروی کنی. اما حالا آدم‌های دیوانه بیشتر و بیشتری داریم که قدرت را در کشورهای مختلف جهان به دست دارند، پس احتمالات بیشتر می‌شوند، نه کمتر. ک ا: پس، با در نظر گرفتن همه این‌ها، یووال، تو دیدگاه منحصر به فردی داری. ساعت را ۳۰ سال جلو می‌بریم.
حدس تو چیست -- آیا انسان به زحمت موفق می‌شود، به عقب نگاه می‌کند و می‌گوید، «وای، خیلی نزدیک بود، موفق شدیم!» یا نه؟ ی ن ه: تا حالا، از پس تمام بحران‌هایی که پیش آمده‌اند برآمده‌ایم. و مخصوصاً اگر به دموکراسی آزاد نگاه کنید و فکر کنید که الان وضعیت بد است، تنها به یاد بیاورید که در ۱۹۳۸ یا ۱۹۶۸ چقدر وضع بدتر بود. پس این واقعاً چیزی نیست، این فقط یک بحران مختصر است. اما هیچ وقت نمی‌دانید، چون، به عنوان تاریخ‌دان، من می‌دانم که هرگز نباید حماقت بشر را دست کم گرفت. (خنده) (تشویق) این یکی از قدرتمندترین نیروهایی است که تاریخ را شکل می‌دهند.
ک ا: یووال، واقعاً لذت بخش بود که تو را در کنارمان داشتیم. متشکرم که این سفر مجازی را انجام دادی. شب خوبی داشته باشی در تل‌آویو. یووال هراری! ی ن ه: خیلی متشکرم. (تشویق)
Hello, everyone. It's a bit funny, because I did write that humans will become digital, but I didn't think it will happen so fast and that it will happen to me. But here I am, as a digital avatar, and here you are, so let's start. And let's start with a question. How many fascists are there in the audience today? (Laughter) Well, it's a bit difficult to say, because we've forgotten what fascism is. People now use the term "fascist" as a kind of general-purpose abuse. Or they confuse fascism with nationalism.
So let's take a few minutes to clarify what fascism actually is, and how it is different from nationalism. The milder forms of nationalism have been among the most benevolent of human creations. Nations are communities of millions of strangers who don't really know each other. For example, I don't know the eight million people who share my Israeli citizenship. But thanks to nationalism, we can all care about one another and cooperate effectively. This is very good. Some people, like John Lennon, imagine that without nationalism, the world will be a peaceful paradise.
But far more likely, without nationalism, we would have been living in tribal chaos. If you look today at the most prosperous and peaceful countries in the world, countries like Sweden and Switzerland and Japan, you will see that they have a very strong sense of nationalism. In contrast, countries that lack a strong sense of nationalism, like Congo and Somalia and Afghanistan, tend to be violent and poor. So what is fascism, and how is it different from nationalism? Well, nationalism tells me that my nation is unique, and that I have special obligations towards my nation. Fascism, in contrast, tells me that my nation is supreme,
and that I have exclusive obligations towards it. I don't need to care about anybody or anything other than my nation. Usually, of course, people have many identities and loyalties to different groups. For example, I can be a good patriot, loyal to my country, and at the same time, be loyal to my family, my neighborhood, my profession, humankind as a whole, truth and beauty. Of course, when I have different identities and loyalties, it sometimes creates conflicts and complications. But, well, who ever told you that life was easy?
Life is complicated. Deal with it. Fascism is what happens when people try to ignore the complications and to make life too easy for themselves. Fascism denies all identities except the national identity and insists that I have obligations only towards my nation. If my nation demands that I sacrifice my family, then I will sacrifice my family. If the nation demands that I kill millions of people, then I will kill millions of people. And if my nation demands that I betray truth and beauty, then I should betray truth and beauty.
For example, how does a fascist evaluate art? How does a fascist decide whether a movie is a good movie or a bad movie? Well, it's very, very, very simple. There is really just one yardstick: if the movie serves the interests of the nation, it's a good movie; if the movie doesn't serve the interests of the nation, it's a bad movie. That's it. Similarly, how does a fascist decide what to teach kids in school? Again, it's very simple. There is just one yardstick: you teach the kids whatever serves the interests of the nation.
The truth doesn't matter at all. Now, the horrors of the Second World War and of the Holocaust remind us of the terrible consequences of this way of thinking. But usually, when we talk about the ills of fascism, we do so in an ineffective way, because we tend to depict fascism as a hideous monster, without really explaining what was so seductive about it. It's a bit like these Hollywood movies that depict the bad guys -- Voldemort or Sauron or Darth Vader -- as ugly and mean and cruel. They're cruel even to their own supporters. When I see these movies, I never understand --
why would anybody be tempted to follow a disgusting creep like Voldemort? The problem with evil is that in real life, evil doesn't necessarily look ugly. It can look very beautiful. This is something that Christianity knew very well, which is why in Christian art, as [opposed to] Hollywood, Satan is usually depicted as a gorgeous hunk. This is why it's so difficult to resist the temptations of Satan, and why it is also difficult to resist the temptations of fascism. Fascism makes people see themselves as belonging to the most beautiful and most important thing in the world -- the nation.
And then people think, "Well, they taught us that fascism is ugly. But when I look in the mirror, I see something very beautiful, so I can't be a fascist, right?" Wrong. That's the problem with fascism. When you look in the fascist mirror, you see yourself as far more beautiful than you really are. In the 1930s, when Germans looked in the fascist mirror, they saw Germany as the most beautiful thing in the world. If today, Russians look in the fascist mirror, they will see Russia as the most beautiful thing in the world.
And if Israelis look in the fascist mirror, they will see Israel as the most beautiful thing in the world. This does not mean that we are now facing a rerun of the 1930s. Fascism and dictatorships might come back, but they will come back in a new form, a form which is much more relevant to the new technological realities of the 21st century. In ancient times, land was the most important asset in the world. Politics, therefore, was the struggle to control land. And dictatorship meant that all the land was owned by a single ruler or by a small oligarch.
And in the modern age, machines became more important than land. Politics became the struggle to control the machines. And dictatorship meant that too many of the machines became concentrated in the hands of the government or of a small elite. Now data is replacing both land and machines as the most important asset. Politics becomes the struggle to control the flows of data. And dictatorship now means that too much data is being concentrated in the hands of the government or of a small elite. The greatest danger that now faces liberal democracy
is that the revolution in information technology will make dictatorships more efficient than democracies. In the 20th century, democracy and capitalism defeated fascism and communism because democracy was better at processing data and making decisions. Given 20th-century technology, it was simply inefficient to try and concentrate too much data and too much power in one place. But it is not a law of nature that centralized data processing is always less efficient than distributed data processing. With the rise of artificial intelligence and machine learning,
it might become feasible to process enormous amounts of information very efficiently in one place, to take all the decisions in one place, and then centralized data processing will be more efficient than distributed data processing. And then the main handicap of authoritarian regimes in the 20th century -- their attempt to concentrate all the information in one place -- it will become their greatest advantage. Another technological danger that threatens the future of democracy is the merger of information technology with biotechnology, which might result in the creation of algorithms
that know me better than I know myself. And once you have such algorithms, an external system, like the government, cannot just predict my decisions, it can also manipulate my feelings, my emotions. A dictator may not be able to provide me with good health care, but he will be able to make me love him and to make me hate the opposition. Democracy will find it difficult to survive such a development because, in the end, democracy is not based on human rationality; it's based on human feelings. During elections and referendums,
you're not being asked, "What do you think?" You're actually being asked, "How do you feel?" And if somebody can manipulate your emotions effectively, democracy will become an emotional puppet show. So what can we do to prevent the return of fascism and the rise of new dictatorships? The number one question that we face is: Who controls the data? If you are an engineer, then find ways to prevent too much data from being concentrated in too few hands. And find ways to make sure the distributed data processing is at least as efficient
as centralized data processing. This will be the best safeguard for democracy. As for the rest of us who are not engineers, the number one question facing us is how not to allow ourselves to be manipulated by those who control the data. The enemies of liberal democracy, they have a method. They hack our feelings. Not our emails, not our bank accounts -- they hack our feelings of fear and hate and vanity, and then use these feelings to polarize and destroy democracy from within. This is actually a method
that Silicon Valley pioneered in order to sell us products. But now, the enemies of democracy are using this very method to sell us fear and hate and vanity. They cannot create these feelings out of nothing. So they get to know our own preexisting weaknesses. And then use them against us. And it is therefore the responsibility of all of us to get to know our weaknesses and make sure that they do not become a weapon in the hands of the enemies of democracy. Getting to know our own weaknesses will also help us to avoid the trap of the fascist mirror.
As we explained earlier, fascism exploits our vanity. It makes us see ourselves as far more beautiful than we really are. This is the seduction. But if you really know yourself, you will not fall for this kind of flattery. If somebody puts a mirror in front of your eyes that hides all your ugly bits and makes you see yourself as far more beautiful and far more important than you really are, just break that mirror. Thank you. (Applause) Chris Anderson: Yuval, thank you.
Goodness me. It's so nice to see you again. So, if I understand you right, you're alerting us to two big dangers here. One is the possible resurgence of a seductive form of fascism, but close to that, dictatorships that may not exactly be fascistic, but control all the data. I wonder if there's a third concern that some people here have already expressed, which is where, not governments, but big corporations control all our data. What do you call that, and how worried should we be about that? Yuval Noah Harari: Well, in the end, there isn't such a big difference
between the corporations and the governments, because, as I said, the questions is: Who controls the data? This is the real government. If you call it a corporation or a government -- if it's a corporation and it really controls the data, this is our real government. So the difference is more apparent than real. CA: But somehow, at least with corporations, you can imagine market mechanisms where they can be taken down. I mean, if consumers just decide that the company is no longer operating in their interest, it does open the door to another market.
It seems easier to imagine that than, say, citizens rising up and taking down a government that is in control of everything. YNH: Well, we are not there yet, but again, if a corporation really knows you better than you know yourself -- at least that it can manipulate your own deepest emotions and desires, and you won't even realize -- you will think this is your authentic self. So in theory, yes, in theory, you can rise against a corporation, just as, in theory, you can rise against a dictatorship. But in practice, it is extremely difficult. CA: So in "Homo Deus," you argue that this would be the century
when humans kind of became gods, either through development of artificial intelligence or through genetic engineering. Has this prospect of political system shift, collapse impacted your view on that possibility? YNH: Well, I think it makes it even more likely, and more likely that it will happen faster, because in times of crisis, people are willing to take risks that they wouldn't otherwise take. And people are willing to try all kinds of high-risk, high-gain technologies. So these kinds of crises might serve the same function
as the two world wars in the 20th century. The two world wars greatly accelerated the development of new and dangerous technologies. And the same thing might happen in the 21st century. I mean, you need to be a little crazy to run too fast, let's say, with genetic engineering. But now you have more and more crazy people in charge of different countries in the world, so the chances are getting higher, not lower. CA: So, putting it all together, Yuval, you've got this unique vision. Roll the clock forward 30 years. What's your guess -- does humanity just somehow scrape through,
look back and say, "Wow, that was a close thing. We did it!" Or not? YNH: So far, we've managed to overcome all the previous crises. And especially if you look at liberal democracy and you think things are bad now, just remember how much worse things looked in 1938 or in 1968. So this is really nothing, this is just a small crisis. But you can never know, because, as a historian, I know that you should never underestimate human stupidity. (Laughter) (Applause) It is one of the most powerful forces that shape history.
CA: Yuval, it's been an absolute delight to have you with us. Thank you for making the virtual trip. Have a great evening there in Tel Aviv. Yuval Harari! YNH: Thank you very much. (Applause)