线上XO派对大热!Zoom想用机器学习鉴别裸体,行得通吗?

2020年4月23日 311点热度 0人点赞 0条评论
图片
大数据文摘出品
作者:睡不着的iris、刘俊寰

疫情在各国逐渐受控,哈佛最新研究报告,在疫苗和治疗药物问世之前,仍需要采取措施应对病毒的传播,目前,唯一的直接手段就是非药物性干预,社交隔离就是最简单粗暴也是最有效的手段之一。

社交隔离在各国强制执行之后,对社会、经济、教育等都带来了灾难性的影响,但是,线上通讯软件在此种新常态下,带迎来高光时刻,比如Zoom。

Zoom主要为远程会议和授课等提供视频服务,在隔离期间,Zoom已成为了人们交流不可或缺的通讯工具之一。据统计,Zoom平台3月份日活跃用户达2亿多,CEO袁征也提到,平台新用户已覆盖来自20多个国家、9万所学校的师生

图片

但是,树大招风,林子大了啥鸟都有。

除了那些利用Zoom的远程通讯功能来举办家族派对、进行趣味背景互动和录制娱乐搞怪视频的人,据滚石杂志报道, 还有人将Zoom用作举办性爱派对的虚拟场所,一位主办人表示,他们通过“玩乐派对”和群签到开展“相互取悦的打飞机社交”。

这项活动也受到了Zoom官方的关注,根据Zoom使用政策,用户不能利用这项技术“从事任何涉及损害、淫秽或不雅的活动,特别是此类商业活动”,该政策规定包含“裸体、暴力、色情、露骨的性材料或犯罪活动的展示”。
图片
于是,Zoom也拿出大招对付这类视频,根据官方发言人的说法,Zoom将利用机器学习来鉴别违反平台政策的账户,但对于具体使用什么方法识别违规用户和内容并未做详细说明,不过,发言人补充道,Zoom不会监控公司会议或会议内容

“我们鼓励用户举报涉嫌违反政策的行为,同时配合各类工具,包括利用机器学习来主动发现存在违规的用户。”Zoom的发言人说道。

线上派对风头正盛,隐私问题依旧被重点关注


上星期六晚上,NSFW举办的“情侣游玩日”(Couples’ PlayDate)进行了长达3个小时的直播,共有45位陌生人通过Zoom进行了观看。

NSFW称自己是提供“性爱和大麻的积极体验”的私人俱乐部,创始人Daniel Saynt认为,这些情侣都是年轻人,很有吸引力,在灯光照明和摄像机角度方面也格外精通。Daniel表示,正是Zoom为他的线上性爱派对的提供了可行之路,“感谢Zoom,我们这代以及未来很多人都将精通让自己更上镜的方法”。 

NSFW绝非唯一被迫转移线上的性聚会,在社会隔离期间,转向数字化是才是生存之道:伦敦的性爱俱乐部Killing Kittens举办线上派对,Alexandre Sartre也主持了四次女同性恋性爱派对,全都是在线上进行。
尽管NSFW尝试使用不同的平台,但包括NSFW在内的诸多组织最终都选择了Zoom,在恐慌和焦虑盛行的当下,这些性爱派并非仅仅提供某种形式的生理解放,而是在出于某种心理治疗的目的

图片
对Zoom的谨慎态度还源于之前暴露出的隐私问题,这对线上性爱派对的参与者来说显得尤为重要。他们表示,曾遇到过有人劫持公共链接来进行骚扰,或者发布种族主义和反犹太主义信息的情况,这让House of Scorpio的创始人Larisa Fuchs感到担忧,这就像是未经参与者同意就擅自录制内容或截图一样。

“在线下活动中,我们会安排一些安全步骤,确保每个人的隐私得到保护。但是在线上,我们无法做出同样的保证,”Fuchs说,“但是这并不代表我允许让客人承担这样的风险。”正因为如此,House of Scorpio在Zoom上举办了一系列的活动,比如Sex Bingo等,但还没有举办过一次线上派对。

其实,针对骚扰和Zoom-bombing (指代闯入视频会议,并显示色情或其他破坏性内容)行为,CEO袁征此前也承认,Zoom在保护用户的隐私和安全方面存在不足,发言人指出公司已在实施一项平台行动计划

计划包含实施“功能冻结”,即不再新增功能,并发布一份包含关于数据、视频、内容详细信息的透明度报告。此外,Zoom将每周举办在线研讨会,向用户提供最新的隐私和安全更新。

隔离期间,拍摄裸体有着独特的氛围和体验


除了参加性爱派对之外,澳大利亚东海岸纽卡斯尔的音乐家Jackson表示,当你单身并且无法与任何人见面时,电话性爱、手套性爱、裸体交流都是打发时间并宣泄性欲的好方法。
在被隔离之前,26岁的Lindsey就一直从事着裸体摄影的工作,但这些照片并未发送给任何人。她表示:“这些照片一直在囤着,万一什么时候就派上用场了,而且,这也能给自己增加一点乐趣。”

Lindsey绘制了隔离之后的工作表格,包括为自己拍了多少裸照。“我知道还要等一段时间才能再次见到别人,在此同时保持火花也会很有趣。”
图片
26岁的墨尔本作家Joshua发现,分享裸照的人数激增,“可以确认同性恋的裸体在国际上享有特赦,我的收件箱里已经堆满了”。

在Joshua看来,LGBTQ人们对于发送私密照片更放得开,“很多同性恋者在孤立的地区长大,因此很多第一次都是在线进行的,转向Instagram,Grindr和Twitter替代品几乎已经成了他们的第二习性(second nature)”。

他还看到,以检疫为主题的裸照成为大热,从加标签的自拍#stuckathome到软色情,再到带有与之无关的“社交隔离!”的标题。

在隔离区分享裸照的人们已经建立了在线交流空间,比如subreddit r / QuarantineGoneWild,该小组的主持人u / mister_master89表示,在强制隔离时期,拍摄裸体有着独特的氛围和体验

AI检测尚未成熟,人机合作仍是主流


尽管Zoom尚未透露公司将采取怎样的机器学习框架来审核对性爱派对,但是从文摘菌此前对视频审核师的报道中,可以猜测一二。

在国内,最早2000年左右,就有公司在做AI审核视频的尝试了,但那时,视频审核需要人为设定特征和规则,比如黄颜色皮肤面积分布情况。一直到深度学习得到发展后,视频审核才终于变得“灵活”起来。

根据爱奇艺算法工程师Leo的介绍,视频审核上,目前业内普遍采用的仍然是“人机结合”的方式,并且人工在其中占据着重要比例
  • 一种AI将相对确定的视频进行分类,然后对部分用户做出推荐,观察用户反应,其中高热视频会人工率先审核;
  • 另一种是AI将视频标记为“good”或“bad”,当审核师遇到标注有“bad”视频时再细致地审核,这也提高了审核效率。

对于AI审核视频,还存在两个技术难点

一个是算法准确率问题。在业内有句话,“脱离数据集来谈准确率都是耍流氓”,这就是说,用数据集训练出来的AI模型并不都能匹配实际行为,还存在用户行为偏差等诸多影响因素,即使AI审核的准确率达到了99%,考虑到用户上传的视频量,剩下1%的累计量也是惊人的。

另一个难关就是对内容的主观判断。简单来说,不是所有露骨的内容都是色情,也不是所有色情视频都有裸露,再加上视频内容中涉及到的文字、语音等多方面情景混杂,对人来说较容易判断,但对机器而言需要多个算法叠加。
图片
而人机合作的方式,也就表明,后台工作人员将有机会看到这些性爱派对和裸体照片,这就又形成了另一层人为灰色地带,应该如何确保工作人员在面对敏感内容时仍保持清醒的头脑和理性的思考?

Zoom使用机器学习参与性爱派对审核这条路,能走通吗?

相关报道:
https://www.insider.com/zoom-sex-party-machine-learning-to-crack-down-on-nudity-2020-4
https://www.rollingstone.com/culture/culture-features/virtual-orgy-sex-party-zoom-nsfw-982785/
https://www.buzzfeed.com/cameronwilson/coronavirus-send-nudes-quarantine-increase

实习/全职编辑记者招聘ing

加入我们,亲身体验一家专业科技媒体采写的每个细节,在最有前景的行业,和一群遍布全球最优秀的人一起成长。坐标北京·清华东门,在大数据文摘主页对话页回复“招聘”了解详情。简历请直接发送至[email protected]

志愿者介绍
后台回复志愿者”加入我们

图片

图片
图片
点「在看」的人都变好看了哦!
64550线上XO派对大热!Zoom想用机器学习鉴别裸体,行得通吗?

这个人很懒,什么都没留下

文章评论