AntiToxin销售safetytech以清理中毒平台

发布时间：2024-11-14 19:59:48 栏目：综合时报

导读 大型社交网络和视频游戏未能将用户健康优先于其自身增长。结果，社会正在失去与欺凌，掠夺者，仇恨言论，错误信息和诈骗者的斗争。通常情况

大型社交网络和视频游戏未能将用户健康优先于其自身增长。结果，社会正在失去与欺凌，掠夺者，仇恨言论，错误信息和诈骗者的斗争。通常情况下，当一大类科技公司面临严峻的问题时，他们无法经济有效地解决问题，而软件即服务的出现则填补了网络托管，支付处理等方面的空白。因此，AntiToxin Technologies，一家新的创业公司，希望通过其安全即服务来帮助网络巨头解决他们的滥用问题。



这一切都始于Minecraft。AntiToxin的联合创始人Ron Porat是网络安全专家，他创办了广告拦截者Shine。然而，在他的鼻子底下，他的一个孩子被殴打儿童的游戏无情地欺负。如果即使是那些最精通互联网的父母也会对网上滥用行为感到惊讶，Porat意识到这个问题比试图保护自己的受害者所能解决的问题更大。研究证实，平台必须做得更多。

Ofcom最近的一项研究发现，近80%的儿童在过去一年中有过潜在的有害在线体验。事实上，有23%的人表示他们被网络欺凌，12至15岁的人中有28%表示他们会收到不受欢迎的朋友，或者听从陌生人的请求。一沟标签的研究发现，12到谁我已经在网上欺凌20岁，42%是欺负Instagram上。

不幸的是，威胁的巨大规模加上顶级应用程序监管起步较晚，使得进展艰难，没有巨额支出。Facebook的内容审核和安全团队的人数增加了三倍，其利润受到了显着的打击，但毒性依然存在。像YouTube和Twitter这样的其他支柱尚未对安全支出或人员配置作出具体承诺，其结果是对儿童剥削和有针对性的骚扰的不间断丑闻。像Snap或Fortnite制造商Epic Games这样的小公司可能没有钱在内部开发足够的保障措施。

“技术巨头已经一次又一次证明我们不能依赖它们。他们放弃了自己的责任。家长们需要意识到这些公司将无法解决这个问题，“AntiToxin的联合创始人兼首席执行官Zohar Levkovitz表示，他曾以3.21亿美元将其移动广告公司Amobee卖给Singtel。“你需要新的球员，新思维，新技术。一个“安全”是产品的公司，而不是一个经过深思熟虑的公司。这就是我们进来的地方。“这家创业公司最近从Mangrove Capital Partners筹集了价值数百万美元的种子轮，据称正准备获得两位数百万的A系列。AntiToxin的技术可以插入应用程序的后端，社交社区可以相互广播或发送消息，从而遭受滥用。AntiToxin的系统私密而安全地处理有关用户行为和政策违规报告的所有可用信号，从文本到视频再到阻止。然后，它可以标记各种有毒行为，并让客户决定是否删除活动，暂停用户责任或根据其条款和当地法律继续进行。

通过使用人工智能，包括自然语言处理，机器学习和计算机视觉，AntiToxin可以识别行为的意图，以确定它是否是恶意的。例如，该公司告诉我，它可以区分已婚夫妇在消息应用程序上同意地交换裸照，而不是成人向儿童发送不适当的图像。它还可以确定两个青少年是否在视频游戏中竞争或者口头骚扰另一个时顽皮地互相咒骂。该公司表示使用静态字典黑名单禁止使用。

AntiToxin属于NDA，因此无法透露其客户名单，但声称最近媒体的关注和对网络滥用的迫在眉睫的监管已经提高了入境兴趣。最终，该公司希望建立更好的预测软件，以识别出已经表现出越来越令人担忧的行为迹象的用户，这样他们的活动在抨击之前可以更加紧密地调节。而且它正试图建立一个“安全图”，以帮助它识别服务中的不良行为者，这样他们就可以被广泛解放，类似于Facebook使用Instagram滥用数据来监管连接的WhatsApp帐户的方式。

“我们正在接近像网络安全公司这样的人类问题，也就是说，对我们来说，一切都是零日”Levkowitz说，他讨论了AntiToxin如何编制新的滥用模式，然后可以搜索其客户。“我们有情报部门的校友，博士和数据科学家创建了世界上渴望的抗毒性检测算法。”AntiToxin已经产生了影响。TechCrunch委托它调查关于微软Bing搜索引擎中儿童性图像的提示。我们发现Bing实际上向那些进行了无辜搜索的人推荐了虐待儿童形象的结果，导致Bing进行了更改以清理其行为。

对AntiToxin业务的一个主要威胁是通常被视为提升在线安全性：端到端加密。AntiToxin声称，当像Facebook这样的公司扩展加密时，他们会有目的地隐藏自己的问题内容，​​这样他们就不必对其进行监管。

Facebook声称它仍然可以使用有关其已加密的WhatApp网络上的连接的元数据来暂停违反其政策的人。但AntiToxin向TechCrunch提供了一项研究调查，发现儿童性虐待图像共享组可以在WhatsApp上公开访问和发现- 部分原因是加密使得很难找到WhatsApp的自动化系统。

AntiToxin认为，如果加密成为一个更广泛的趋势，滥用将会激增，它声称它所造成的伤害超过了对公司或政府调查未加密传输的担忧。这是一个艰难的电话。持不同政见者，举报人以及整个公民自由的概念都依赖于加密。但是，父母可能会认为性犯罪者和欺凌者是一个更加可怕的问题，平台不知道人们在聊天线程中说什么。

显而易见的是，现状必须走了。羞辱，排斥，性别歧视，美容，冒充和暴力威胁已开始变得司空见惯。残酷的文化滋生了更多的残酷。Tech的成功故事受到用户恐怖故事的影响。在与毒性作斗争中支付新武器似乎是对需求的合理投资。