首页 |  海外房源 |  资讯百科 |  帮我找房 | 

房产新闻 购房指南 移民百科 留学资讯 海外生活 国际动态

欧盟人工智能法将不会是未来的证明,除非它规范通用人工智能系统

时间:2022-05-31 13:58 来源:海房之家

最初将通用人工智能(AI)系统排除在欧盟的提议之外《人工智能法案》于2021年4月发布,可能危及基本权利和安全。虽然第一个部分妥协案文介绍了一个文章在通用人工智能系统上,它仍然未能解决这些系统产生的危害,克里斯·什里沙克写道。

克里斯·什里沙克(Kris Shrishak)是爱尔兰公民自由理事会的技术研究员。

里斯托·乌克(Risto Uuk)是生命未来研究所的政策研究员。

你可能听说过这个元,以前被称为Facebook,最近发布了一个大型语言模型,供任何研究人员试验。meta承认这个系统很容易产生有毒的语言并强化有害的刻板印象。然而,在即将出台的《人工智能法案》中,确保此类系统(也称为通用人工智能系统)安全的所有责任都放在了用户身上。

通用人工智能系统是指能够执行广泛功能的系统。这些包括但不限于图像或语音识别、音频或视频生成、模式检测、问题回答和翻译。

这使得该系统可以用于各种专业应用,如聊天机器人、广告生成系统、决策助理和垃圾邮件机器人。事实上,这些系统有如此多的潜在用途,其中大多数尚未被发现,虽然其中许多将给用户带来好处,但有些将是高风险的,因此可能需要禁止。

其中一些系统已经传播了极端主义内容,显示了反穆斯林偏见,无意间泄露了个人数据。例如,一个基于通用人工智能系统的聊天机器人鼓励人们自杀。

考虑到这一点,不管是好是坏,通用型人工智能系统很可能是人工智能的未来,我们一定会看到更多类似的事件。

通用AI系统提供商的义务主要应该落在开发者身上。然而,委员会提出的这篇文章并没有建议通用人工智能系统的开发者对确保其安全负有法律责任,而是将所有责任都分配给了用户。

例如,如果比利时政府的一个部门使用一个通用人工智能系统来提供基本的公共服务,他们将独自负责聊天机器人的行为,尽管他们几乎无法控制它可能出现的缺陷和偏见。

这就产生了许多问题。许多数据治理需求,尤其是偏差监测、检测和纠正,都需要访问AI系统训练时使用的数据集。

然而,这些数据集属于开发人员,而不是将通用AI系统“用于既定目的”的用户。因此,对于这些系统的用户来说,完全不可能满足这些数据治理需求。

此外,如果通用人工智能系统的开发人员(大多数在欧盟以外)被要求遵守法律义务,并在系统投入使用后对其进行监控,那么对欧洲小企业来说,成本效益更高,负担也更轻。只有少数几家公司有能力花费数十亿美元或欧元开发通用人工智能系统,因为这个过程需要大量的计算。

相比之下,数百家公司(包括许多中小企业)使用通用AI系统。规范特定的用例是不划算的,因为其中许多用例仅基于少数通用AI系统。

在这项立法中,通用人工智能系统的开发者应被视为提供者,而将这些系统用于特定应用的公司应被视为用户。欧洲议会(European Parliament)两个主要委员会最近的报告也未能澄清这一点。我们建议欧盟明确将责任分配给通用人工智能系统的开发人员。

所有通用AI系统在投放市场前都要进行彻底的评估,并在投放市场后进行持续的监控。

在数百个专业应用中,只有少数通用人工智能系统会成为缺陷和偏见的源头。这是因为单一的通用人工智能系统,例如由meta产生的语言处理系统,可以用作许多为客户量身定制的其他系统的基础。

这种系统的缺陷和偏见可能会影响媒体文章、教育材料和聊天机器人,以及其他只有在欧洲小型公司试验这些系统时才会发现的领域。因此,所有通用AI系统在投放市场之前都要进行彻底的评估,并在投放后进行持续的监控。

此外,通用AI系统有许多不同的用途,仅通过管制用户无法确保其安全性。系统中的缺陷和偏差将导致严重的下游危害,因为用户没有必要的资源、访问权限和能力来确保安全。

继续我们之前的例子,比利时政府的一个部门使用了一个通用AI系统,但没有访问足够的计算资源、数据集和对这些系统的设计的理解,将被负责,但没有能力确保安全。

最重要的是,我们建议开发人员确保他们的通用AI系统符合AI法案提案中针对高风险AI系统提出的要求。此外,开发人员和用户应该定期评估这些AI系统是否存在任何新的风险,包括在调查新用例时发现的风险。开发者还应该在欧盟数据库中注册他们的通用AI系统和用户列表。

只有通过所有这些改变,我们才能让AI法案面向未来。