021-22889554
021-26703715
مشاوره آموزشی رایگان

021-22889554  |  021-26703715 مشاوره آموزشی رایگان

قدرت مقياس در توييتر

Del Harvey

Protecting Twitter users (sometimes from themselves)

Del Harvey heads up Twitter’s Trust and Safety Team, and she thinks all day about how to prevent worst-case scenarios -- abuse, trolling, stalking -- while giving voice to people around the globe. With deadpan humor, she offers a window into how she works to keep 240 million users safe.


تگ های مرتبط :

Security, Social Media, Technology
شغل من در توییتر تضمین اعتماد کاربر، حمایت از حقوق کاربر و حفظ امنیت کاربران است، هر دوشان را از یکدیگر و گهگاه از خودشان. بیایید درباره این که مقیاس آن در توییتر به چه شکلی است صحبت کنیم. در ژانویه سال ۲۰۰۹، ما شاهد بیش از دو میلیون توییت جدید از این پلت فرم بودیم. ژانویه ۲۰۱۴، بیش از ۵۰۰ میلیون. ما شاهد ۲ میلیون توییت بودیم در کمتر از شش دقیقه. افزایشی ۲۴٫۹۰۰ درصدی. الان، اکثریت عمده فعالیت در توییتر کسی را دچار مشکل نمی کند به کسی آسیب وارد نمی کند.
هیچ ریسکی را در برنمی گیرد. شغل من ریشه کردن و ممانعت از فعالیتی احتمالی هست. خیلی سرراست واضح به نظر می رسد، اینطور نیست؟ حتی شاید فکر کنید که میتونه آسان باشد، با فرض این که الان گفتم اکثریت عمده فعالیت در توییت به کسی آسیب وارد نمی کند. ما وقت خیلی زیادی رو صرف جستجوی برای فجایع بالقوه در فعالیتهای بی ضرر می کنیم؟ با فرض این مقیاس که تويئتر با احتمال یک در یک میلیون، ۵۰۰ بار در روز اتفاق میفتد. سرو کار داشتن با این نوع مقیاس برای سایر کمپانیها هم مشابه هست.
برای ما، موارد اج (به موردی گفته میشه که در حداکثر و یا حداقل اتفاق میوفته) آن موقعیتهای نادری هستند که وقوعشان غیرمحتمل است، بیشتر حالت نرمال دارند. بگیریم ۹۹٫۹۹۹ درصد از از توییتها خطری را به کسی وارد نمی کنند. هیچ تهدیدی در میان نیست. شاید آدمها چشم اندازه های مسافرتی را مستند می کنند از قبیل هارت ریف در استرالیا یا توییت کردن درباره کنسرتی که در آن حضور یافتند، یا به اشتراک گذاشتن تصاویری از بچه های بامزه حیوانات. بعد از احتساب آن ۹۹٫۹۹۹۹ درصد، که درصد خردی از توییتهای باقی میمانند که در ماه حدود
۱۵۰٫۰۰۰ می شود. مقیاسی محض از آنچه با آن مواجه هستیم آن را به چالش می کشد. می دونید چه چیز دیگری نقش من را بطور خاصی چالشی می کند؟ آدمهای کارهای عجیبی انجام می دهند. (خنده) و من باید سر دربیارم که چه کاری می کنند، چرا، و ا این که خواه ریسکی در کار باشد یا خیر، غالبا بی آنکه چندان تابع متن یا زمینه باشد. می خواهم به شما برخی مثالها را نشان دهم که در طی همکاریم با توییتر با آنها برخورد کرده ام-- اینها مثالهای واقعی هستند--
از موقعیتهای که در وهله نخست شفاف و صریح به نظر می رسیدند اما واقعیت امر کاملا چیزی دیگر بود. جزییات تغییر یافته اند تا از بی گناه و بعضا گناه کار حمایت شود. اگر چنین توییتی را تنها با این مضمون ببینید، شاید با خودتون فکر کنید، "به نظر سوءاستفاده کردن می رسد." شاید با خودتان فکر کنید، " مثل سوءرفتار به نظر می رسد." آخه چرا باید بخواهید که پیغامی این چنینی دریافت کنید، "Yo, bitch." حال، سعی دارم نسبت به آخرین
اصطلاحات و گرایشها نسبتا به روز باشم. بنابراین میدانم که این عبارت یک جور سلام و علیک معمول بین رفقا هست، و البته تیکه کلام محبوب در سریال برکینگ بد. می پذیرم که انتظار نداشتم با مورد چهارمی از کاربردش مواجه شوم. معلوم شد که در توییتر نیز استفاده می شود وقتی آدمها بعنوان سگ نقش آفرینی می کنند. (خنده) و در واقع، در آن مورد، نه تنها سوء رفتار نیست، بلکه از لحاظ فنی یک احوال پرسی صحیح است. (خنده) خب بنابراین، تعیین این که خواه چیزی
بدون متن سوءرفتار است یا نه قطعا دشوار است. بیایید به هرزنامه ها نگاهی بیندازیم. در اینجا با مثالی از حساب کاربری مواجه هستیم که درگیر رفتار هرزنامه ای کلاسیک می باشد، با فرستادن یک پیغام مشابه به هزاران شخص. هر چند چیزی که اینجا داریم ساختگی است و من از حساب کاربری خودم استفاده کردم، اما شاهد حسابهایی هستیم که دائم این کار را می کنند. اصلا پیچیده نیست. ما فقط باید حسابهای ر که در چنین رفتار مشارکت دارند را بطور اتومات معلق کنیم. اما از قرار معلوم استثناهایی هم هست.
از قرار معلوم اینطور پیامها می توانند آگاه سازی باشند که شما برای ایستگاه فضایی بین المللی که از بالای سرتا می گذرد ثبت نام کرده اید چون قصد داشتید بیرون رفته و ببینید که قادر به دیدنش هستید. شما این شانس را به دست نمی آورید اگر به اشتباه حساب شما را با این فکر که هرزنامه است معلق می کردیم. بسیار خب. بیایید دایره خطر را بالاتر ببریم. برگردیم سراغ حساب من، با به نمایش مجدد رفتار کلاسیک. این بار همان پیام مشابه را بهمراه آدرس صفحه ای می فرستد. اغلب نمایانگر چیزی است که فیشینگ نام دارد. کسی سعی می کند اطلاعات حساب شخص دیگری را سرقت کند
با هدایت کردن آنها به وب سایت دیگری. کاملا بدیهی است که کار خوبی نیست. ما میخواهیم و این کار را انجام می دهیم،حسابهای مشارکت کننده در این نوع رفتار را معلق می کنیم. بنابراین چرا احتمال ریسک در اینها بیشتر است؟ خب، این همچنین می تواند نظارهگری در یک راهپیمایی باشد که موفق به ضبط ویدیویی از افسر پلیسی شده که معترض آرامی را مورد ضرب و شتم قرار داده کسی که تلاش می کند تا آنچه رخ می دهد را به دنیا خبر دهد. ما با ساکت کردن آن صدای بالقوه قصد قمار کردن آن صدای ضروری را بواسطه طبقه بندی کردن جزء هرزنامه و معلق کردنش نداریم. این به آن معناست که ما صدها پارامتر را با نگاه کردن
به رفتار حسابهای کاربری ارزیابی می کنیم و حتی بعد، ما هنوز می توانیم ادرباره ش اشتباه کرده و به ارزیتبی مججد آن بپردازیم. حال با فرض تمامی این چالش هایی که باید علیه شان اقدام کنم نه تنها ضروری است که پیش بینی کنم بلکه همچنین حمایتهایی را برای موارد غیرمنتظره طراحی کنم. و این نه تنها دغدغه من یا توییتر است بلکه دغدغه شما هم هست. دغدغه هر کسی است که سازنده یا خالق چیزی است که شما فکر می کنید قرار است شگفت انگیز باشد و به آدمها امکان انجام کارهای فوق العاده را دهد. پس باید چکار کنم؟ مکث کرده و فکر می کنم؟
چطور ممکن است که همه اینها بطپر وحشتناکی اشتباه باشد؟ این فاجعه را به تصویر می کشم. و دشوار است. نوعی ناهنجاری درونی ادراکی در انجام آن وجود دارد که مثل وقتی میماند که شما در حین مکتوب کردن عهد ازدواجتان، موافقتنامه قبل از عقد را امضا می کنید. (خنده) اما هنوز باید این کار را انجام دهید، بخصوص اگر روزانه با ۵۰۰ میلیون توییت ازدواج می کنید. منظورم از " فاجعه بصری" چیه؟ سعی دارم به این فکر کنم که چطور چیز بی خطر و بی ضرری مثل تصویر یک گربه می تواند منجر به مرگ گردد،
و برای پیشگیری از آن چه باید کرد. که قرار است مثال بعدی من باشد. این گربه ام، الی است. میخواستیم به کاربرها این امکان را بدهیم که عکسهایی را به توییتهایشان اضافه کنند. یک تصویرارزشی برابر ۱۰۰۰ واژه دارد. تنها ۱۴۰ حرف دارید. عکسی را به توییت خود اضافه می کنید، الان به میزان محتویاتی که الان دارید نگاه کنید. انواع کلی از چیزهای زیادی وجود دارد که شما با افزودن عکسی به یک توییت بتوانید انجام دهید. شغل من فکر کردن درباره آنها نیست. فکر کردن به این است که چه چیزهایی می توانند درست پیش نروند.
این تصویر چطور می تواند به مرگ من منتهی شود؟ خب، یک احتمال هست. در آن تصویر چیزی بیش از یک گربه وجود دارد. ژئودیتا (داده های زمینی). وقتی با تلفن هوشمندتان یا دوربین دیجیتال عکس می گیرید، کلی اطلاعات اضافی وجود دارد که در کنار عکس ذخیره میشود. در واقع، این تصویر همچنین شامل معادل این میشود، دقیقترش میشود این. مطمئنا مثل این نیست که کسی بخواهد تلاش کند رد من رو گرفته و بهم آسیب برسونهاد
بر اساس داده تصویری که مرتبط با با عکسی هست که از گربه ام گرفتم، اما با این فرض شروع می کنم که بدترین اتفاق خواهد افتاد. به این خاطر که وقتی شروع به فرستادن عکس روی توئیتر کردیم در واقع تصمیم به حذف اطلاعات اضافی عکس ها گرفتیم. (تشویق) اگر با فرض بدترین شروع کنم و وارونه کار کنم، می تونم مطمئن بشم که حمایتهایی که ما میسازیم درهر دو مورد استفاده قابل توقع و غیر منتظره کار خواهد کرد. با فرض این که روزها و شبهام را صرف تصور کردن بدترین چیز که ممکن است اتفاق بیفتد می کنم.
جای تعجب نیست اگر چشم انداز جهانی من غم انگیز باشد. (خنده) اما نیست. بخش وسیعی از تعاملاتی را که من شاهدشان هستم، باور کنید که شاهد بسیاری بودم---مثبت هستند، آدمهایی که دست یاری دراز می کنند یا اطلاعات را با هم به اشتراک می گذارند و با هم ارتباط برقرار می کنند. تنها درباره آن دسته از ماست که با مقیاس سروکار دارند، برای آن دسته ای از ما که وظیفه شون ایمن نگهداشتن آدمهاست، باید فرض کنیم که بدترین اتفاق خواهد افتاد، چون برای ما، احتمال یک در یک میلیون شانس نسبتا خوبیست. متشکرم.
(تشویق)
My job at Twitter is to ensure user trust, protect user rights and keep users safe, both from each other and, at times, from themselves. Let's talk about what scale looks like at Twitter. Back in January 2009, we saw more than two million new tweets each day on the platform. January 2014, more than 500 million. We were seeing two million tweets in less than six minutes. That's a 24,900-percent increase. Now, the vast majority of activity on Twitter
puts no one in harm's way. There's no risk involved. My job is to root out and prevent activity that might. Sounds straightforward, right? You might even think it'd be easy, given that I just said the vast majority of activity on Twitter puts no one in harm's way. Why spend so much time searching for potential calamities in innocuous activities? Given the scale that Twitter is at, a one-in-a-million chance happens 500 times a day. It's the same for other companies
dealing at this sort of scale. For us, edge cases, those rare situations that are unlikely to occur, are more like norms. Say 99.999 percent of tweets pose no risk to anyone. There's no threat involved. Maybe people are documenting travel landmarks like Australia's Heart Reef, or tweeting about a concert they're attending, or sharing pictures of cute baby animals. After you take out that 99.999 percent, that tiny percentage of tweets remaining works out to roughly
150,000 per month. The sheer scale of what we're dealing with makes for a challenge. You know what else makes my role particularly challenging? People do weird things. (Laughter) And I have to figure out what they're doing, why, and whether or not there's risk involved, often without much in terms of context or background. I'm going to show you some examples that I've run into during my time at Twitter -- these are all real examples —
of situations that at first seemed cut and dried, but the truth of the matter was something altogether different. The details have been changed to protect the innocent and sometimes the guilty. We'll start off easy. ["Yo bitch"] If you saw a Tweet that only said this, you might think to yourself, "That looks like abuse." After all, why would you want to receive the message, "Yo, bitch." Now, I try to stay relatively hip
to the latest trends and memes, so I knew that "yo, bitch" was also often a common greeting between friends, as well as being a popular "Breaking Bad" reference. I will admit that I did not expect to encounter a fourth use case. It turns out it is also used on Twitter when people are role-playing as dogs. (Laughter) And in fact, in that case, it's not only not abusive, it's technically just an accurate greeting. (Laughter) So okay, determining whether or not
something is abusive without context, definitely hard. Let's look at spam. Here's an example of an account engaged in classic spammer behavior, sending the exact same message to thousands of people. While this is a mockup I put together using my account, we see accounts doing this all the time. Seems pretty straightforward. We should just automatically suspend accounts engaging in this kind of behavior. Turns out there's some exceptions to that rule.
Turns out that that message could also be a notification you signed up for that the International Space Station is passing overhead because you wanted to go outside and see if you could see it. You're not going to get that chance if we mistakenly suspend the account thinking it's spam. Okay. Let's make the stakes higher. Back to my account, again exhibiting classic behavior. This time it's sending the same message and link. This is often indicative of something called phishing, somebody trying to steal another person's account information
by directing them to another website. That's pretty clearly not a good thing. We want to, and do, suspend accounts engaging in that kind of behavior. So why are the stakes higher for this? Well, this could also be a bystander at a rally who managed to record a video of a police officer beating a non-violent protester who's trying to let the world know what's happening. We don't want to gamble on potentially silencing that crucial speech by classifying it as spam and suspending it. That means we evaluate hundreds of parameters
when looking at account behaviors, and even then, we can still get it wrong and have to reevaluate. Now, given the sorts of challenges I'm up against, it's crucial that I not only predict but also design protections for the unexpected. And that's not just an issue for me, or for Twitter, it's an issue for you. It's an issue for anybody who's building or creating something that you think is going to be amazing and will let people do awesome things. So what do I do? I pause and I think,
how could all of this go horribly wrong? I visualize catastrophe. And that's hard. There's a sort of inherent cognitive dissonance in doing that, like when you're writing your wedding vows at the same time as your prenuptial agreement. (Laughter) But you still have to do it, particularly if you're marrying 500 million tweets per day. What do I mean by "visualize catastrophe?" I try to think of how something as benign and innocuous as a picture of a cat
could lead to death, and what to do to prevent that. Which happens to be my next example. This is my cat, Eli. We wanted to give users the ability to add photos to their tweets. A picture is worth a thousand words. You only get 140 characters. You add a photo to your tweet, look at how much more content you've got now. There's all sorts of great things you can do by adding a photo to a tweet. My job isn't to think of those. It's to think of what could go wrong.
How could this picture lead to my death? Well, here's one possibility. There's more in that picture than just a cat. There's geodata. When you take a picture with your smartphone or digital camera, there's a lot of additional information saved along in that image. In fact, this image also contains the equivalent of this, more specifically, this. Sure, it's not likely that someone's going to try to track me down and do me harm
based upon image data associated with a picture I took of my cat, but I start by assuming the worst will happen. That's why, when we launched photos on Twitter, we made the decision to strip that geodata out. (Applause) If I start by assuming the worst and work backwards, I can make sure that the protections we build work for both expected and unexpected use cases. Given that I spend my days and nights imagining the worst that could happen, it wouldn't be surprising if my worldview was gloomy.
(Laughter) It's not. The vast majority of interactions I see -- and I see a lot, believe me -- are positive, people reaching out to help or to connect or share information with each other. It's just that for those of us dealing with scale, for those of us tasked with keeping people safe, we have to assume the worst will happen, because for us, a one-in-a-million chance is pretty good odds. Thank you. (Applause)