我们为什么投资:技术与社会中心

图片来源:Shutterstock

Omidyar Network投资总监 Alissa Black

在过去的18个月中,针对几乎所有族裔,种族和宗教少数群体,以及难民,移民,LGBTQ社区,残疾人和妇女的仇恨言论,恐吓和暴力事件急剧增加。

我们正被推向一个危险的转折点,在这一转折点上,仇恨言论正趋于规范化-针对特定群体并将其描绘成威胁,不受欢迎或异常。 不仅某些倡导和利用这些有害和分裂行为的政治和公共领导人,而且通过传播,放大并给这种可憎内容提供错误合法性的技术,都助长了这种情况。

特别是在美国:

  • 18%的美国人(18岁以上)在网上受到了特别严重的骚扰 (例如人身威胁,长期骚扰,性骚扰或缠扰行为)
  • 年轻人 (18-29岁) 尤其容易受到网上骚扰; 67%的遭受了某种类型的在线骚扰,而41%的人遭受了严重的骚扰
  • 18-29岁的女性中,有21%的人 表示受到过网上性骚扰 ,是同一年龄段男性的两倍多
  • 它从年轻开始。 28%的学生 (10至18岁)报告遭受网络欺凌¹

而且,尽管基于身份的仇恨言论盛行是关于民族身份的重新辩论的象征-谁属于谁,谁不属于谁,谁是美国人,谁不是美国-这不限于美国。 这是一种全球流行病,需要当今的全球解决方案和行动。

在Omidyar Network,由于我们是eBay创始人Pierre Omidyar创立的慈善投资公司,我们相信技术和市场力量可以成为实现积极变革的强大杠杆。 同时,显而易见的是,技术,特别是社交媒体平台等强大的交流引擎,正被那些使用它们来分裂我们的人所破坏。

奥米迪亚组织(Omidyar Group)在过去的几个月中一直在探索技术在社会中扮演的角色,重点关注社交媒体对公众话语和公民参与产生的意想不到的负面影响。 上个月,我们发布了初步调查结果,确定了媒体平台对社会造成危险影响的六种方式,并提出了有关回声室,极化,深色广告,算法,机器人和仇恨言论的问题。

我们尤其关注在线仇恨的扩散在多大程度上具有沉默效果 ,并直接影响人们参与公共辩论和公民生活的能力。 皮尤研究中心(Pew Research)今年进行的一项研究发现,有27%的美国成年人说,他们在目睹了他人的骚扰之后就不再在网上发布东西 ,而13%的人口由于观察到的其他人的骚扰而选择停止使用在线服务 。 。

今年早些时候,我们支持反诽谤联盟(ADL)-世界领先的反犹太主义和仇恨组织-提议建立一个新的技术与社会中心(CTS)来应对严峻的挑战互联网和社会媒体创造的我们的民主和社会

在无与伦比的Brittan Heller的领导下,CTS在过去的一年中取得了令人瞩目的进步。 他们深入研究了在仇恨言论,技术和社会的交汇处工作的人员和组织的状况; 仔细查看自己组织的相对优势和差距; 并制定了一项雄心勃勃且令人印象深刻的计划,在ADL建立了一个与整个生态系统有着深厚合作伙伴关系的中心,该中心有望在美国和全球范围内对这些问题产生真正的影响。

迄今为止仅有的一些成就包括Control-Alt-Delete,这是关于记者在网上受到骚扰的报告,该报告导致Twitter的协作响应努力将对记者的攻击减少了80%。 ADL最近还与Microsoft,Google,Facebook和Twitter等技术巨头建立了网络仇恨解决实验室,该实验室将由CTS管理。 而且,在今天举行的第二届年度“ 从不现在”会议上,ADL将宣布在线仇恨指数,这是CTS和加利福尼亚大学伯克利分校D实验室之间的合作伙伴关系,旨在使用AI自动检测在线仇恨。

鉴于这项工作的关键性质是通过在科技公司,民间社会和许多其他致力于这些问题的机构之间加强协作来遏制网上仇恨的浪潮,我们非常高兴地宣布,我们已承诺再提供150万美元的资金,以继续我们对中心未来三年的工作的支持。

ADL成立于1913年,其双重使命是“制止对犹太人民的诽谤,并确保所有人的公正和公正待遇。” ADL为汲取其丰富的历史而采取的步骤,启发了我们,启发了我们,这些长期存在的问题需要新的解决方案,并采取大胆的步骤(例如建立技术与社会中心)来继续领导该领域。

在Brittan鼓舞人心的领导下,并利用ADL始终带来的深厚激情,知识和专业知识,我们期待着他们在这些关键问题上继续发挥领导作用。