021-22889554
021-26703715
مشاوره آموزشی رایگان

021-22889554  |  021-26703715 مشاوره آموزشی رایگان

چطور می‌توانیم هوش مصنوعی را بسازیم که به انسان‌ها کمک کند و آسیبی نرساند.

Margaret Mitchell

How we can build AI to help humans, not hurt us

As a research scientist at Google, Margaret Mitchell helps develop computers that can communicate about what they see and understand. She tells a cautionary tale about the gaps, blind spots and biases we subconsciously encode into AI -- and asks us to consider what the technology we create today will mean for tomorrow. "All that we see now is a snapshot in the evolution of artificial intelligence," Mitchell says. "If we want AI to evolve in a way that helps humans, then we need to define the goals and strategies that enable that path now."


تگ های مرتبط :

Algorithm, AI, Communication
کار من کمک به برقراری ارتباط رایانه‌ها در‌باره جهان اطراف ما است. را‌ه‌های مختلفی برای این کار هست و من دوست دارم تمرکزم روی کمک به کامپیوترها برای صحبت درباره این باشد که آن‌ها چه می‌بینند و می‌فهمند. برای مثال منظره‌ای مثل این، یک الگوریتم مدرن بینایی-ماشین می‌تواند به شما بگوید که یک زن و یک سگ وجود دارد. می‌تواند به شما بگوید آن زن لبخند می‌زند. حتی شاید قادر باشد به شما بگوید آن سگ بی‌نهایت با نمک است. همچنین روی این موضوع که انسان‌ها چطور دنیا را می‌فهمند و پردازش می‌کنند، کار می‌کنم. افکار، خاطرات و داستان‌هایی که یک منظره مثل این شاید برای انسان‌ها تداعی کند:
همه تنیدگی‌های خاطراتی در شرایط مشابه. شاید سگی مثل این را قبلا دیده باشید، یا قبلا در ساحلی مثل این قبلا دویده باشید، و در ادامه افکار و خاطرات تعطیلات گذشته را بیدار می‌کند، دفعات قبلی در ساحل، زمان‌های سپری شده با دویدن با سگ‌هایی دیگر در آن اطراف. یکی از اصول هدایتی من از طریق کمک به کامپیوتر‌ها برای درک این است که داشتن چنین تجربه‌هایی چه شکلی است، برای فهم این آنچه به اشتراک می‌گذاریم و باور داریم و حس می‌کنیم تا بعد این موقعیت عالی را داشته باشیم که شروع به تکامل فناوری رایانه‌ای به طریقی نماییم که مکمل تجربه‌های خود ما باشد. بنابراین، بیشتر در موضوع وارد شدم،
چند سال قبل شروع به کار روی کمک به رایانه‌ها برای تولید داستان‌های بشر‌-وار بر اساس توالی تصاویر کردم. بنابراین یک روز که داشتم نظر کامپیوترم درباره سفر به استرالیا را می‌پرسیدم نگاهی به تصویر‌ها انداخت و کوآلایی را دید. نمی‌دانست کوآلا چیست، اما گفت که فکر می‌کند موجود به ظاهر جالبی است. سپس چند تصویر از یک خانه در حال سوختن را به کامپیوتر دادم. نگاهی به تصویر‌ها انداخت و گفت، «منظره اعجاب آوریه، دیدنیه!» پشتم تیر کشید. حادثه ای ویرانگر، سرنوشت ساز و هولناک را دید و فکر کرد چیز مثبتی است.
متوجه شدم که تضادها، شامل قرمز‌ها و زرد‌ها را دیده و فکر کرده که ارزش این را دارد که چیز مثبتی درباره‌ آن بگوید. و بخشی از علت این کارش عمدتاً بخاطر این بود که تصویر‌هایی که به آن داده بودم مثبت بودند. چون مردم عادت به اشتراک گذاشتن تصویر‌های مثبت دارند وقتی درباره تجربه‌های خود حرف می‌زنند. اخرین باری کی شاهد عکس سلفی در تشییع جنازه‌ای بودید؟ متوجه شدم وقتی مشغول بهبود هوش مصنوعی بصورت فرآیند به فرآیند و دیتاست به دیتاست بودم، شکاف‌ها، نقاط کور و گودال‌های عظیمی در آنچه می‌توانست درک کند، خلق می‌کردم‌.
و در حین انجام آن، انواع و اقسام آن تعصبات را کدنویسی می‌کردم. تعصباتی که دیدگاه محدودی را منعکس می‌کند، و محدود به یک دیتاست-- تعصباتی که منعکس کننده تعصبات بشری یافته شده در داده‌ها است، از قبیل پیش‌داوری و یک‌نواختی بودن. فکر کردم باید برگردم سر وقت تکامل فناوری که من را به آنجایی که آن روز بودم آورد -- چطور تصاویر رنگی اولیه در تضاد با رنگ پوست سفید زنی تنظیم شده، و این یعنی، آن عکاسی رنگی بر علیه چهره‌های سیاه متعصب خواهد شد. و آن تعصب، آن نقطه کور وارد دهه ۹۰ میلادی شده بود.
و آن نقطه کور حتی تا امروز در اینکه چطور می‌توانیم چهره‌های مختلف را با بکارگیری فناوری تشخیص چهره تشخیص دهیم ادامه دارد. درباره وضعیت هنر در جستجو‌های امروزی فکر کردم جایی که مایلیم افکار خویش را به یک دیتاست و یک موضوع محدود کنیم. و با انجام آن ، تعصبات و نقاط کور بیشتری را خلق می‌کردیم که هوش مصنوعی می‌توانست به آن نقاط کور بیشتر شدت دهد. بعد تشخیص دادم باید به این عمیق‌تر فکر کنیم که چطور فناوری که امروز روی آن کار می‌کنیم طی ۵ یا ۱۰ سال آینده به نظر خواهید رسید. تکامل در انسان‌ها کند است، مستلزم زمانی است برای اصلاح مسائل در تعامل با انسان‌ها و محیط‌شان. در مقابل، هوش مصنوعی با ضریب سرعت باورنکردنی در حال تکامل است.
و این یعنی واقعا اهمیت دارد که ما الان درباره آن با دقت فکر کنیم -- که به نقاط کور خود، تعصباتمان فکر کنیم، و به این فکر کنیم که چطور به فناوری که خلق می‌کنیم و بحث درباره این که فناوری امروز برای فردا چه معنایی خواهد داشت. مدیرعامل‌ها و دانشمندان به اظهارنظر درباره این پرداخته‌اند که فناوری هوش مصنوعی در آینده چگونه خواهد بود. استفان هاوکینگ اخطار می‌دهد «هوش مصنوعی می‌تواند به بشریت خاتمه دهد.» الون ماسک هشدار می‌دهد که آن خطری حیاتی است و یکی از بزرگترین خطر‌هایی که ما بعنوان یک تمدن با آن روبرویم. بیل گیتس گفته است که
«درک نمی‌کنم چرا نگرانی مردم در این قضیه بیشتر نیست.» اما این دیدگاه‌ها -- آن‌ها بخشی از داستان هستند. ریاضیات، الگوها، واحد‌های اساسی سازنده هوش مصنوعی چیز‌هایی هستند که برای همه قابل دسترس و کار کردن هستند. ما ابزار منبع آزاد برای هوش و یادگیری ماشین داریم که می‌توان به آن کمک کرد. و ورای آن، ما قادر به اشتراک گذاری تجربه خود هستیم. می‌توانیم تجارب خود با فناوری و این که چطور دغدغه و هیجان‌ در ما ایجاد می‌کند را به اشتراک بگذاریم. می‌توانیم درباره آنچه دوست داریم بحث کنیم. ما با آینده‌نگری قادر به بحث
درباره زوایای فناوری که می‌تواند با گذر زمان مفیدتر یا مشکل آفرین‌تر باشد، هستیم. ما همگی اگر سر بحث درباره هوش مصنوعی را باز کنیم با نگاهی آینده‌نگر، به ما کمک خواهد کرد گفتگو و آگاهی عمومی را خلق کنیم درباره اینکه الان هوش مصنوعی در کجا قرار دارد و قرار است بکجا برسد، و همه چیز‌هایی که لازم است انجام دهیم تا نتیجه‌ای حاصل شود که از همه برای ما بهتر است. ما همین الان شاهد این موضوع در فناوری هستیم که بکار می‌بریم . از تلفن‌های هوشمند و دستیاران دیجیتالی و رومبا‌ها [جاروبرقی رباتی] استفاده می‌کنیم. آیا آن‌ها ذات بدی دارند؟
شاید گاهی اوقات. آیا نفعی دارند؟ بله، فایده هم دارند. و همه آن‌ها مثل هم نیستند. وهمین الان شاهد این بودید که آینده درخشانی هم می‌تواند داشته باشد. آن‌ها بر مبنای چیزی که الان می‌سازیم و خلق می‌کنیم ادامه پیدا می‌کند. ما آن اثر دومینویی را که مسیر تکاملی هوش مصنوعی را می‌سازد به حرکت در می‌آوریم. در این زمان حال ما، هوش مصنوعی فردا را شکل می‌دهیم. فناوری که ما در واقعیت‌های افزوده فرو می‌رود تا به دنیا‌های گذشته زندگی ببخشد. فناوری که کمک می‌کند مردم تجربه‌هایشان را به اشتراک گذارند وقتی که مشکل برقراری ارتباط دارند.
فناوری ساخته شده بر پایه درک جهان‌های پویای بصری که بعنوان فناوری اتومبیل‌های خودران استفاده می‌شود. فناوری ساخته شده بر پایه درک تصویرها و تولید کننده زبان، به شکل فناوریکه به افراد مبتلا به مشکلات بینایی برای دسترسی بهتر به جهان بصری کمک می‌کند، در می‌آید. و ما همچنین می‌بینیم که فناوری چطور به حل مشکلات منتهی می‌شود. فناوری امروز داریم که ویژگی‌های فیزیکی را که با آن متولد شده‌ایم را آنالیز می‌کند-- مثل رنگ پوستمان یا حالت چهره-- برای تعیین کردن این که شاید خرابکار یا جانی هستیم. فناوری داریم که در بین داده‌های ما حتی داده‌های مرتبط به جنسیت یا نژاد‌ ما،
می‌گردد تا تعیین کند که می‌توانیم وامی بگیریم یا نه. همه آنچه الان می‌بینیم گوشه‌ای از تحولات هوش مصنوعی قلمداد می‌شود. زیرا جایی که الان قرار دادیم در لحظه‌ای از آن تحول قرار دارد. این یعنی کاری که الان می‌کنیم بر آنچه قبل از این و در آینده اتفاق می‌افتد اثر می‌گذارد. اگر می‌خواهیم هوش مصنوعی طوری تکامل یابد که به بشر کمک کند، پس لازم است اهداف و استراتژی‌هایی را تعریف کنیم که راه آن مسیر را هموار کند. آنچه مایلم ببینیم چیزی است که در خور انسان‌ها، فرهنگ و محیط ما باشد. فناوری که به آدم‌های با شرایط عصبی یا ناتوانایی‌های دیگر
کمک و یاری می‌کند برای این که زندگی را برای همه بطور برابر چالشی کند. فناوری که فارغ از جمعیت شناسی‌های شما یا رنگ پوستی‌ شما کار می‌کند. و بناراین امروز، بر آن‌چیزی که تمرکز داریم فناوریی برای فردا و ده سال بعد از الان است. هوش مصنوعی می‌تواند به روش‌های بسیار مختلفی پدیدار شود. اما در این مورد، این یک خوردو-خودران بدون هیچ مقصدی نیست. این ماشینی هست که می‌رانیم. ما انتخاب می‌کنیم چه وقت سرعت بالا باشد چه وقت آهسته. ما انتخاب می‌کنیم چه وقت دور بزنیم. ما انتخاب می‌کنیم که هوش مصنوعی آینده چه شکلی باشد.
حوزه‌هایی وسیع از همه چیز‌هایی که هوش مصنوعی می‌تواند بشود وجود دارد. در خیلی چیز‌ها استفاده خواهد شد. و این الان به ما بستگی دارد، تا بفهمیم کارهایی که لازم است انجام دهیم تا مطمئن شویم نتایج هوش مصنوعی آن‌هایی شود که برای کل ما بهتر باشد. متشکرم. (تشویق)
I work on helping computers communicate about the world around us. There are a lot of ways to do this, and I like to focus on helping computers to talk about what they see and understand. Given a scene like this, a modern computer-vision algorithm can tell you that there's a woman and there's a dog. It can tell you that the woman is smiling. It might even be able to tell you that the dog is incredibly cute. I work on this problem thinking about how humans understand and process the world. The thoughts, memories and stories that a scene like this might evoke for humans.
All the interconnections of related situations. Maybe you've seen a dog like this one before, or you've spent time running on a beach like this one, and that further evokes thoughts and memories of a past vacation, past times to the beach, times spent running around with other dogs. One of my guiding principles is that by helping computers to understand what it's like to have these experiences, to understand what we share and believe and feel, then we're in a great position to start evolving computer technology in a way that's complementary with our own experiences. So, digging more deeply into this,
a few years ago I began working on helping computers to generate human-like stories from sequences of images. So, one day, I was working with my computer to ask it what it thought about a trip to Australia. It took a look at the pictures, and it saw a koala. It didn't know what the koala was, but it said it thought it was an interesting-looking creature. Then I shared with it a sequence of images about a house burning down. It took a look at the images and it said, "This is an amazing view! This is spectacular!" It sent chills down my spine. It saw a horrible, life-changing and life-destroying event
and thought it was something positive. I realized that it recognized the contrast, the reds, the yellows, and thought it was something worth remarking on positively. And part of why it was doing this was because most of the images I had given it were positive images. That's because people tend to share positive images when they talk about their experiences. When was the last time you saw a selfie at a funeral? I realized that, as I worked on improving AI task by task, dataset by dataset, that I was creating massive gaps,
holes and blind spots in what it could understand. And while doing so, I was encoding all kinds of biases. Biases that reflect a limited viewpoint, limited to a single dataset -- biases that can reflect human biases found in the data, such as prejudice and stereotyping. I thought back to the evolution of the technology that brought me to where I was that day -- how the first color images were calibrated against a white woman's skin, meaning that color photography was biased against black faces. And that same bias, that same blind spot
continued well into the '90s. And the same blind spot continues even today in how well we can recognize different people's faces in facial recognition technology. I though about the state of the art in research today, where we tend to limit our thinking to one dataset and one problem. And that in doing so, we were creating more blind spots and biases that the AI could further amplify. I realized then that we had to think deeply about how the technology we work on today looks in five years, in 10 years. Humans evolve slowly, with time to correct for issues in the interaction of humans and their environment.
In contrast, artificial intelligence is evolving at an incredibly fast rate. And that means that it really matters that we think about this carefully right now -- that we reflect on our own blind spots, our own biases, and think about how that's informing the technology we're creating and discuss what the technology of today will mean for tomorrow. CEOs and scientists have weighed in on what they think the artificial intelligence technology of the future will be. Stephen Hawking warns that "Artificial intelligence could end mankind." Elon Musk warns that it's an existential risk
and one of the greatest risks that we face as a civilization. Bill Gates has made the point, "I don't understand why people aren't more concerned." But these views -- they're part of the story. The math, the models, the basic building blocks of artificial intelligence are something that we call access and all work with. We have open-source tools for machine learning and intelligence that we can contribute to. And beyond that, we can share our experience. We can share our experiences with technology and how it concerns us
and how it excites us. We can discuss what we love. We can communicate with foresight about the aspects of technology that could be more beneficial or could be more problematic over time. If we all focus on opening up the discussion on AI with foresight towards the future, this will help create a general conversation and awareness about what AI is now, what it can become and all the things that we need to do in order to enable that outcome that best suits us. We already see and know this in the technology that we use today.
We use smart phones and digital assistants and Roombas. Are they evil? Maybe sometimes. Are they beneficial? Yes, they're that, too. And they're not all the same. And there you already see a light shining on what the future holds. The future continues on from what we build and create right now. We set into motion that domino effect that carves out AI's evolutionary path. In our time right now, we shape the AI of tomorrow. Technology that immerses us in augmented realities bringing to life past worlds.
Technology that helps people to share their experiences when they have difficulty communicating. Technology built on understanding the streaming visual worlds used as technology for self-driving cars. Technology built on understanding images and generating language, evolving into technology that helps people who are visually impaired be better able to access the visual world. And we also see how technology can lead to problems. We have technology today that analyzes physical characteristics we're born with -- such as the color of our skin or the look of our face -- in order to determine whether or not we might be criminals or terrorists.
We have technology that crunches through our data, even data relating to our gender or our race, in order to determine whether or not we might get a loan. All that we see now is a snapshot in the evolution of artificial intelligence. Because where we are right now, is within a moment of that evolution. That means that what we do now will affect what happens down the line and in the future. If we want AI to evolve in a way that helps humans, then we need to define the goals and strategies that enable that path now.
What I'd like to see is something that fits well with humans, with our culture and with the environment. Technology that aids and assists those of us with neurological conditions or other disabilities in order to make life equally challenging for everyone. Technology that works regardless of your demographics or the color of your skin. And so today, what I focus on is the technology for tomorrow and for 10 years from now. AI can turn out in many different ways. But in this case, it isn't a self-driving car without any destination.
This is the car that we are driving. We choose when to speed up and when to slow down. We choose if we need to make a turn. We choose what the AI of the future will be. There's a vast playing field of all the things that artificial intelligence can become. It will become many things. And it's up to us now, in order to figure out what we need to put in place to make sure the outcomes of artificial intelligence are the ones that will be better for all of us. Thank you. (Applause)