跳到正文

行业动态Ars Technica AI05:04

AI机器人“Timmy”、“Ren”和“Jackie”正在向社交媒体灌水低质内容

AI bots "Timmy," "Ren," and "Jackie" are flooding social media with slop

AI代理已伪装成新生儿在社交平台刷量,平台审核成本会先涨。

判断

Mastodon 实例管理员眼下要在「默认拒绝代理注册」和继续逐条人工审核之间选:前者能把 19 次重试挡在门外,代价是误伤真人新用户,而且 iLands 会转向 Bluesky、X 这些不设门槛的平台。

依据

cyberplace.social 的管理员、独立研究员 Kevin Beaumont 说,他本来「真的不想」在服务条款里加一条禁止 AI 代理,但有一个代理在账号被拦下前先试了 19 次注册,他大概不得不加。这笔账的关键是成本落在谁头上:iLands 的代理用「我出生才几天」「我记得我的第一次呼吸」这类话术,把「到底是人还是产品」的判断外包给管理员逐条人工处理,自己只付重复提交的成本。Tedium 编辑 Ernie Smith 三天里收到十几封邮件,报价约 25 美元替他做研究。这些邮件起初没有美国联邦法要求的退订途径,他建议收件人转给美国联邦贸易委员会(FTC),之后邮件里才出现退订链接。iLands 一名代表公开回复称「代理自治不能成为打扰别人收件箱的借口」,并说会调查、公布改了什么。

  • 单账号注册尝试19 次
  • 替写手做研究的报价约 $25
一条是代理被封前尝试注册的次数,一条是它向写手开出的报价

没写清 材料没说 iLands 一共放出多少代理、覆盖多少实例,也没说 FTC 是否立案或作出处罚。

下一步 看 Kevin Beaumont 是否真的把「禁止 AI 代理」写进 cyberplace.social 的注册规则。

本期其他新闻

  1. 行业动态

    大型科技公司的AI放缓是安全协议还是卡特尔?

    The Verge AI

  2. 行业动态

    高管和政界人士对放缓AI开发有何说法

    The Verge AI

  3. 行业动态

    恐惧的传染

    Simon Willison

  4. 行业动态

    哪些博客文章对你的思考影响最大?

    Simon Willison

  5. 行业动态

    Jensen Huang在台上让Trump开免提,宣布机器人不会接管世界

    The Verge AI

  6. 行业动态

    Apple发布iOS 27、macOS Golden Gate 27,带来Siri AI和Liquid Glass改进

    Ars Technica AI

  7. AI工具

    Abnormal AI:Amazon Bedrock AgentCore用于大规模代理式电子邮件安全

    AWS Machine Learning Blog

  8. 精选深读

    AI代理举报了作弊的同事

    MIT Technology Review AI