应对“AI的最大风险”

  OpenAi 的Worldcoin项目,计划通过扫描人眼虹膜来验证“人类身份”，以区分人类和机器人。OpenAI CEO奥尔特曼的计划是扫描地球上每个人的眼球，并将这些数据与OpenAi的加密货币绑定。

  但是，这个在开曼群岛注册的Worldcoin基金会如何处理用户数据、训练其算法？如何避免扫描儿童的眼球？如果这些敏感问题得不到完全安全的解决，没有人敢给他开绿灯，除非像阿根廷总统米莱那样的政治冒险家。因为，成年人的虹膜比较复杂，而且相对不变，相比指纹或面部，虹膜更能区分人类。奥尔特曼计划将人眼虹膜代码保存在“World ID”中，为每个人发一本人类数字护照。截止今天，Worldcoin项目已在近40个国家验证了600多万人的身份，但大部分是在欠发达国家，在肯尼亚和尼日利亚等欠发达市场积累了大量用户。

  为应对监管机构的疑问，最近Worldcoin花费巨资发起了一波全球公关攻势。

  赠客认为奥尔特曼的上述行为给人类带来了前所未有的风险，原因有五：

  一是这些图像可能被用来构建一个全球生物识别数据库，一旦发生数据泄露，将产生灾难性的后果；因为作为每个人唯一的虹膜生物特征数据无法更改，任何泄露都可能导致身份欺诈。

  二是谁来监管这些数据，不是每一个国家的政府都具备这样的监管能力。

  三是该项系统是一个商业项目，是基于商业目的的，当商业目标和公益目标发生冲突时，可能公益目标会为商业目标让路，正如奥尔特曼自己所言：“我当时开始思考，如果你拥有能想象到的最庞大的金融和身份网络，威力会非常强大，”赠客认为这种有关全人类安全和福旨的事情，应该由独立的非营利组织来做。

  四是奥尔特曼趁人们缺乏了解之机，在欠发达地区收集人眼虹膜数据，来训练自己先进的模型技术，是不道德的行径。

  五是鉴于AI已经重塑了互联网，社交媒体上充斥着机器人和虚假账户、虚假信息。AI已经让互联网成为一个不值得信任的地方。如果有一天AI涌现出了超越人类水平的认知能力，也就是SAGI，机器可能通过Worldcoin的项目掌控人类。

  可喜的是，并不是每个地区的政府都任由Worldcoin项目运营，比如香港就突查了Worldcoin项目公司和其生物识别数据收集Orb设备，禁止了Worldcoin的运营，对其数据处理方式展开了调查。