اینترنت و شبکه‌های اجتماعی در جزئی‌ترین بخش‌های زندگی مردم نفوذ کرده‌اند و مهم‌تر از آن، تعریف آن‌ها از نفرت‌پراکنی را تغییر داده‌اند.
آمریکایی‌ها در چند ماه گذشته با دو حادثه‌ی تروریستی جدید رو‌به‌رو شدند: یکی ارسال بمب ازطریق پست به منزل و محل کار دمکرات‌ها و دیگری تیراندازی در عبادتگاه یهودیان در پیتزبورگ. در این حوادث مشابه، تشخیص واقعیت از فراواقعیت دشوار شده است. کارشناسان آمریکایی درحال‌بررسی علل این حوادث از جنبه‌های مختلف اجتماعی و قانونی هستند. دراین‌میان، به‌نظر می‌رسد مظنون‌های هر دو حادثه یک نقطه‌ی مشترک داشته‌اند. این نقطه‌ی مشترک، همان درگیری با محتوای افراطی در فضای آنلاین بود.
رابرت باورز، مظنون حادثه‌ی پیتزبورگ، پیش از شروع تیراندازی در عبادتگاه «درخت زندگی» در این شهر، پستی افراطی در شبکه‌ی اجتماعی مخصوص افراد معتقد به برتری نژاد سفیدپوست منتشر کرد. سزار سایوک، مجرم ارسال بسته‌های بمب برای سیاستمداران دمکرات، مجموعه‌ای از پست‌ها و مطالب با اعتقادات راست افراطی و همچنین تئوری‌های توطئه را در فیسبوک منتشر کرد.
نور کتیلی، استادیار دانشکده‌ی مدیریت نورث‌وسترن کیلاگ و محقق خشونت و رفتارهای ضدانسانی دراین‌باره می‌گوید:استفاده‌ی این افراد از فناوری به مشخص‌کردن انگیزه‌ی آن‌ها کمک می‌کند. به‌علاوه، این نشانه‌ها مشکلات بزرگی را در دنیای کنونی روشن می‌کنند؛ مشکلاتی که کارشناسان متعدد روانشناسی و جامعه‌شناسی، در پی درک هرچه بهتر آن هستند. یکی از اصلی‌ترین مشکلات، تأثیر اینترنت بر عادی‌سازی دیدگاه‌های افراطی است.
بسیاری از رفتارهای ما براساس تصورمان از دیگران شکل می‌گیرد. آنچه تصور می‌کنیم دیگران انجام می‌دهند یا قبول می‌کنند، تشکیل‌دهنده‌ی رفتار ما می‌شود.
در دنیای اینترنت، افراد با باورهای میانه‌رو نیز از خطر مصون نیستند؛ حتی آن‌هایی که از گوشه‌های تاریک این فضا دوری می‌کنند، درمعرض ایده‌های افراط‌گرایی درزمینه‌ی صحیح و غلط زندگی روزمره‌ی خود هستند. حجم این افراط‌گری‌ها نیز روزبه‌روز افزایش می‌یابد. یکی از سخن‌گویان فیسبوک اعلام کرد این شرکت در سه‌ماهه‌ی اول سال ۲۰۱۸، با ۲.۵میلیون پست و اظهارنظر نفرت‌پراکنی مقابله کرده است.
البته، افراد با ایده‌ها و عقاید افراطی در طول زمان وجود داشته‌اند؛ اما گتیلی معتقد است ظهور این پلتفرم‌های آنلاین، نحوه‌ی تعامل و گفت‌وگوی ما را تغییر داده است. او در این‌باره می‌گوید:
این سرویس‌ها به روش‌های گوناگون، خطر مواردی همچون اعتقادها و باورهای ضدانسانی و نفرت‌پراکنی را افزایش می‌دهند.
به‌بیان دیگر، عقاید افراطی هم‌اکنون بسیار سریع و گسترده پخش می‌شوند. درنتیجه به‌نظر می‌رسد این عقاید، افراطی نبوده و از بدنه‌ی جامعه زاییده شده‌اند.
شبکه‌های اجتماعی به اهمیت خود در تأثیرگذاری بر جامعه پی برده‌اند
شرکت‌های بزرگ دنیای فناوری درحال‌درک اهمیت موضوعات مطرح‌شده‌ی محققان هستند. این موضوعات تأثیر مقابله با اظهارنظرهای تنفرآمیز را بر شکل‌دادن اعتقادات جامعه مشخص می‌کند. تحقیقات میدانی در موضوعات مختلف نشان داد وقتی افراد با محتوا و ایده‌های ضدانسانی رو‌به‌رو شوند، همین نظریه‌ها را می‌پذیرند. درواقع، در نتیجه‌ی کم‌اهمیت‌دادن ارزش انسانی گروه‌های مختلف، توجیه برای ظلم‌کردن به آن‌ها نیز افزایش پیدا می‌کند.
دیوید لیوینگستون اسمیث، استاد فلسفه‌ی دانشگاه نیوانگلند، در مصاحبه‌ای با نشریه‌ی تایمز درباره‌ی این عقاید گفت:
ما به خود اجازه می‌دهیم تا با حیوان‌ها رفتارهایی غیرمجاز کنیم؛ رفتارهایی که انجام آن‌ها دربرابر انسان‌ها، ناپسند و ممنوع تعریف می‌شود. چنین مجوزی رفتارهای بازدارنده‌ی ما را دربرابر اعمال خشونت‌آمیز تهدید می‌کند.
سؤالی که حادثه‌ی پیتزبورگ در ذهن کارشناسان ایجاد کرد این بود که اخراج گروه‌های افراطی از شبکه‌های اجتماعی چه پیامدهایی دارد. درواقع، با سخت‌تر شدن قوانین شبکه‌هایی همچون فیسبوک و توییتر، این گروه‌ها از آن‌ها خارج می‌شوند. فیسبوک در سال‌های اخیر مدیران و ناظران متعددی استخدام کرد تا رفتارهای خشونت‌آمیز و اظهارنظرهای افراطی را شناسایی و گروه‌های افراطی را اخراج کنند.
توییتر سیاست سخت‌گیرانه‌تری در این زمینه دارد. این شرکت دربرابر دیدگاه‌ها و صحبت‌هایی با هدف کاهش ارزش انسانی موضعی محکم می‌گیرد. قوانین این شرکت هر صحبت و اظهارنظر گسترش‌دهنده‌ی تنفر خاص را محکوم می‌کند. برخی از این صحبت‌ها و دیدگاه‌ها ارزش انسانی گروه‌هایی از افراد را کمتر جلوه می‌دهند.
Gab نام یکی از شبکه‌های اجتماعی بود که باورز در آن پست‌های ضدنژادی منتشر کرد. این شبکه در بیانه‌ای خطاب به تایمز، هرگونه خشونت و تروریسم را به‌شدت محکوم کرد. البته، این شبکه امکانی را به طرفداران برتری نژاد سفید داده که در شبکه‌های اجتماعی دیگر دردسترس نیست. در شبکه گب، اعضا می‌توانند اظهارنظرهایی را مطرح کنند که در شبکه‌های دیگر ممنوع خوانده می‌شود.
جوان داناوان، متخصص تحقیقات خراب‌کاری در رسانه‌ها در مؤسسه‌ی Data & Society، درباره‌ی گب می‌گوید:
در شبکه‌ی گب، مجموعه‌ای از کاربران جمع شده‌اند که به‌نوعی طرفدار سبکی از عقیده‌های افراطی هستند.
درواقع، فعالیت در شبکه‌هایی همچون گب، عقاید و نظرات مخالف نژادهای خاص را در نظر کاربران عادی جلوه می‌دهد. کاربران این سرویس‌ها با محتوای ضد آن نژاد محاصره می‌شوند؛ درصورتی‌که در شبکه‌های دیگر، انبوهی از نظرات دیگر نیز آن‌ها را احاطه خواهد کرد.
با اخراج نژادپرستان از شبکه‌های اصلی سرویس مخصوص آن‌ها شکل گرفت
باورز پیش از تیراندازی در پستی توهین‌آمیز گفته بود اعتقادی به میانه‌روی ندارد و خودش وارد عمل خواهد شد. او با نظرات و عقاید افراد حاضر در آن شبکه مبنی بر نیاز به اعتدال در مبارزه برای برتری نژاد سفیدپوست مخالف بود. البته این جامعه‌ی ظاهرا میانه‌رو شرکت‌های بزرگ فناوری و قوانین آن‌ها را دشمنان اصلی خود می‌داند. آن‌ها اعتقاد دارند در جنگی برای آزادی بیان در اینترنت حاضر هستند.
یکی از حساب‌های کاربری مرتبط‌با شبکه‌ی اجتماعی گب، در پستی در مدیوم درباره‌ی این جنگ فرضی مقاله نوشته بود. البته این مقاله پس از تیراندازی پیتزبورگ حذف شد. در متن مقاله، به شرکت‌های بزرگ سیلیکون‌ولی توهین شده بود و آن‌ها به‌نوعی دیکتاتور خوانده شده بودند. به‌عقیده‌ی نگارنده‌ی آن مقاله، شرکت‌های بزرگ فناوری ایده‌ها و نظرهای مخالف خود را پاک می‌کنند و فقط نظرهای موافق با خود را می‌پذیرند. درنهایت، شرکت‌هایی که اجازه‌ی انتشار محتوای مخالف را می‌دهند (مانند گب)، با اصطلاح Alt Tech معرفی می‌شوند.
داناوان اعتقاد دارد چنین پلتفرم‌های انحصاری، محل تولد کمپین‌های متعدد خراب‌کاری و آزار و اذیت می‌شوند. به‌علاوه، بسیاری از بحث‌ها با تئوری توطئه در این محل‌ها شکل می‌گیرند. در این پلتفرم‌ها، حتی میم‌ها و پست‌های نژادپرستی یا ضدجنسیت خاص منتشر می‌شوند که در شبکه‌های دیگر، قطعا ممنوع هستند. او می‌گوید وقتی در پلتفرمی این حجم از محتوای مخرب منتشر شود، افرادِ عاقل‌تر و با عقاید معتدل کمتری در آن باقی خواهند ماند.
بیش از یک دهه از تأسیس فیسبوک می‌گذرد و شبکه‌های اجتماعی امروز به مفهومی ثابت‌شده بدل شده‌اند. البته، هنوز مجامع علمی و دانشگاهی در درک اثرهای این پلتفرم‌های درحال‌تکامل روی رفتار و سلامت انسان‌ها عاجز هستند. محققان مخاطب مصاحبه در این مقاله، تحقیقی سراغ نداشتند که ارتباط بین ارسال محتوای افراطی در دنیای آنلاین را با رفتار در دنیای واقعی بررسی کند.
درحال‌حاضر، تحقیقات جدیدی با هدف کشف ارتباط بین عملکرد در شبکه‌های اجتماعی و دنیای واقعی درحال‌انجام است. کارلو شوارتز و کارستن مولر، محققان دانشگاه‌های وارویک و پرینستون، تمامی حملات انجام‌شده بر ضد پناهجویان را در آلمان در دو سال گذشته بررسی کردند. آن‌ها در بررسی‌شان، عوامل متعددی از سطح ثروت جامعه تا تعداد پناهجویان حاضر در آن را مطالعه کردند.
ارتباطی نسبی بین استفاده از فیسبوک و اعمال خشونت‌آمیز وجود دارد
نتایج اولیه نشان داد حملات در این کشور، بیشتر در شهرهایی رخ می‌دهد که استفاده از فیسبوک در آن بیشتر است. در اینجا، فیسبوک آن شبکه‌ی اجتماعی محسوب می‌شود که ایده‌های ضدمهاجری در آن انتشار می‌یابند.
البته روش تحقیق بالا مورد انتقاد بسیاری از کارشناسان قرار گرفت و شوارتز نیز می‌گوید یافته‌ها پیش از نتیجه‌گیری نهایی باید تکرار و مجددا بررسی شوند. نکته‌ی مهم این است که قطع محدود اینترنت در برخی مناطق آلمان، شرایط خاصی برای این تحقیقات ایجاد می‌کرد. به‌عنوان مثال، وقتی دسترسی به اینترنت در مناطقی با آمار استفاده‌ی بالا از فیسبوک قطع شد، حمله به پناهندگان نیز کاهش پیدا کرد.
شوارتز درمجموع نتیجه می‌گیرد گروهی از مردم وجود دارند که با قرارگرفتن درمعرض ایده‌های نفرت‌آمیز در فضای آنلاین، به‌سمت عملکردهای خشونت‌آمیز تشویق می‌شوند. همان اثر تالار پژواک شبکه‌های اجتماعی (تکرار فراوان اخبار بد که می‌توانند صحیح یا غلط باشند)، می‌تواند یکی از عوامل افزایش این رویکردها باشد. به‌بیان دیگر، وقتی افراد به دفعات درمعرض انتقادهایی با اهداف ثابت قرار بگیرند، نظر آن‌ها درباره‌ی صحیح یا غلط‌بودن اقدامات خشونت‌آمیز علیه گروه‌های اقلیت تغییر می‌کند.
فیسبوک و توییتر و گوگل، درحال تخصیص منابعی برای مقابله با این مشکل هستند. البته آن‌ها هنوز مشکلاتی پیش روی خود دارند. برای نمونه، الگوریتم‌هایی برای انتخاب و شناسایی کلمات خاص افراطی طراحی شده‌اند؛ اما گروه‌های افراطی با استفاده از زبان‌های رمزی، همان ایده‌های قبلی خود را ترویج می‌دهند. درنتیجه‌ی این اقدامات، ناظران محتوا باید هزاران فرهنگ و زبان را بشناسند.
به‌علاوه، تعداد پست‌ها در شبکه‌ای مانند فیسبوک روزبه‌روز افزایش پیدا می‌کند. این شرکت ادعا می‌کند که ۳۸درصد از نظرات تنفرآمیز را پیش از گزارش کاربران شناسایی می‌کند. این آمار کمی کمتر از آمار شناسایی محتوای هرزه‌نگاری و تبلیغات سیاسی در این سرویس است. شرکت انتظار دارد که این آمار بهبود پیدا کند.
تحقیقات هنوز راه درازی برای تعمیم‌یافتن به کل اینترنت درپیش دارند
درنهایت، باوجود اهتمام شرکت‌ها و شبکه‌های اجتماعی برای مقابله با این بحران، سازوکارهای قانونی مشخصی برای الزام آن‌ها و دیگر شرکت‌ها به این مقابله وجود ندارد. درواقع، این شرکت‌ها برای ازبین‌بردن محتوای تنفرآمیز تلاش می‌کنند؛ اما قانون مشخصی برای پیروی از آن وجود ندارد. همین نبود روند مشخص برای پیروی باعث شده تا قانون‌گذاران متعددی درصدد دشوارترکردن قوانین برای رسانه‌های اجتماعی فعالیت کنند.
به‌هرحال، محققان نیز همچنان در تلاش‌اند تا حقایق علمی را به شرکت‌ها ارائه کنند. با آماده‌شدن این داده‌ها، شرکت‌ها می‌توانند براساس ورودی‌های واقعی درباره‌ی حل این مشکل تصمیم‌گیری کنند. شوارتز که درحال‌تحقیق روی تأثیرات توییتر بر خشونت آفلاین است، اعتقاد دارد حجم تحقیقات در این زمینه هنوز کم است و به چشم موضوعی جدید به آن نگاه می‌شود.