人工智能研究与生产限制法案

来自星际公民中文百科

《人工智能研究与生产限制法案》(AIRPRA),俗称“AI禁令”,是地球联合帝国的一项法案,该法案对人工智能的研究做出了严格的限制。该法案诞生于一艘载有数千名低温休眠人类的长途殖民飞船阿尔忒弥斯号的失踪事件,这起事件被认为是飞船上用于监控和驾驶飞船的人工智能导致的,而政客们也利用了这一事件大做文章,将限制人工智能研究作为他们的政治议题,用于赚取选票。在之后几十年里,世界各国都开始禁止人工智能研究,2380年地球联合国成立时,其创立者在最初立法时便将限制人工智能纳入其中。之后的地球行星联合国和地球联合帝国在成立时也保留了此法,直到今天,它仍然是国家的法律。

概述

AIRPRA授权参议院审查,批准或拒绝任何有关人工智能的研究,包括商业和非商业研究。法案中将人工智能定义为“任何能够以令人信服的方式模仿人类智能的软件或硬件”,这一宽泛的标准使得对人工智能任何领域的研究都被施加了严格的限制,并有效禁止了UEE境内对于人工智能的生产和使用。法案的具体规章包括:

  • 禁止政府开展人工智能研究。
  • 私人开展的人工智能研究必须经由参议院批准。
  • 获得批准的人工智能研究必需处于UEE科学与技术委员会的严格监督之下。
  • 批准随时都可撤销。
  • 禁止销售任何和人工智能有关的产品。

任何被发现违反AIRPRA的人都会被逮捕并被判处15-20年的监禁。公司和研究机构如果被发现有意教唆人工智能研究,将被处以一定比例的罚款甚至没收财产。

历史

2043年,空色公司推出了一系列自动驾驶汽车,并声称这是第一个真正的人工智能产品。不同于早期的人工智能模型,这个模型使用了深度生成技术,可以模仿人类的智能,但其本身并不真正具备智能。空色公司承诺,这种新的人工智能拥有最老练的人类驾驶员的智慧,良好的判断力和快速的反应能力。东京为了加强交通基础设施建设,方便那些与火车站相距较远的地区的通勤,向空色公司购买了一批汽车和巴士,成为了空色公司的早期投资者。

2044年,一辆空色公司的巴士在悬崖边上行驶时执行了错误的拐弯动作,从悬崖边坠入海中,造成了21人死亡。15分钟后,又有一辆载着37人的巴士坠入海中。当局联系了空色公司,该公司的技术人员向东京市及其郊区的所有自动驾驶车辆发出了紧急停止的指令。然而,只有那些未处于驾驶状态的车辆按照指令停止了,而那些仍在运送乘客的车辆则没有理会指令,而是继续完成剩下的行程。虽然在所有车辆停止驾驶前,绝大多数车辆最终都没有发生任何事故,但仍又有3辆巴士和18辆汽车发生了致命事故,此次事件共导致113人死亡。此次事件后来被称为“旅鼠车事件”,空色公司也因此解散。自此,日本禁止在了人工智能在自动驾驶车辆上的应用,但直到2044年在纽约和2047年在约翰内斯堡发生的其他公司的汽车造成的致命事故后,其他地方才颁布了类似禁令。

由于公众对人工智能高度不信任,投资者也不愿意支持人工智能主导的企业,研究人员开始关注人工智能在科学领域而不是日常生活上的应用。2055年,人工智能帮助确定了一种常见于顶级食肉动物消化系统中的细菌,并将其用于预防朊病毒疾病。另一个人工智能则帮助建立了狂犬病的治疗方法。一个特别先进的人工智能负责计算航天器的轨迹,确保了早期的火星任务的成功。这些成功解冻了公众舆论,并为人工智能在火星早期的地球化改造平台中的应用铺平了道路。

应用于火星地球化改造的人工智能旨在完成快速计算并对大气层进行微小调整,它以其为复杂问题提供富有想象力的解决方案的能力而闻名,而且速度和误差方面都明显优于人类。当时,负责火星地球化改造的团队认为,人工智能使得该项目进展顺利。然而,在2125年9月13日,一次后来被认定为与人工智能有关的计算错误导致火星大气层几乎完全消散,造成4800多人死亡,史称“火星悲剧”。这一事件再次摧毁了公众对人工智能的积极看法,并使大部分正在进行的开发工作停滞不前。

2201年,人工智能研究员卡罗尔·查希尔博士从私人渠道获得资金,开始开发一种新型人工智能,并将其命名为“雅努斯”。“雅努斯”是当时最先进的人工智能,它可以进行对话、得出结论并做出有根据的猜测,其水平甚至超过了人类。2228年,罗伯茨太空工业公司开始建造一艘长途殖民飞船“阿尔忒弥斯号”,这艘飞船将依靠量子旅行到达代号为 GJ 667Cc的潜在宜居行星。查希尔主动联系了RSI,提议让雅努斯成为飞船的操控中枢。考虑到飞船到达目的地需要200多年的时间,RSI同意了这一提议。这样一来,船上的所有殖民者和船员都可以安全地处于低温休眠状态,而不会在旅途过程中因年龄过大而死亡。

阿耳忒弥斯号于2232年发射升空,引起了巨大反响。阿耳忒弥斯号进入安全航线后不久,发射人员便进入了低温休眠状态,只留下雅努斯负责指挥飞船。雅努斯会定期向地球发送报告,直到2237年,它的通信突然中止了。任务控制中心曾多次呼叫它,但雅努斯要么拒绝回应,要么无法回应。RSI和多国政府展开了大规模的搜救行动,但却完全找不到一点阿尔忒弥斯号的踪迹,它似乎消失得无影无踪。

5000多人的失踪在社会上引得一片哗然。虽然不能确定雅努斯与阿尔忒弥斯号的失踪是否有关,但媒体以旅鼠车事件和火星悲剧为证据,指责雅努斯是这场灾难的罪魁祸首。地球和火星上的政客们则把这一事件作为契机,要求禁止人工智能,以此作为争取选票和上任的跳板。正如他们在数百次竞选演说中承诺的那样,他们颁布了一系列禁令,停止并没收了其管辖范围内的任何人工智能研究。2380年地球联合过成立时,人们对人工智能的不信任程度仍然很高,以至于《人工智能研究与生产限制法案》(AIRPRA)在参议院中以压倒性的优势通过,成为了UNE最早通过的法律之一。

批评

不过,也有些批评者指出,AIRPRA对人工智能的定义过于宽泛,那些和人工智能仅有微不足道的联系的研究和技术也被扼杀在摇篮之中,例如用于航天器或者互动玩具中的高效自动驾驶仪。还有人认为,对人工智能的保密使得政府能绕过公众监督进行危险的研究,例如2943年解密的霸王项目。

皇帝莱拉尼·艾迪生在竞选期间曾承诺放松对人工智能研究的限制,并表示“......技术的目标始终应该是帮助人类,而不是取代人类,这也包括人工智能。”她在接受光谱节目清镜频道采访时说。她在2951年上任后不久提起的创新倡议允许向从事人工智能研究的研究机构发放特别豁免。任何获得该豁免的机构都有资格获得数量有限的政府拨款,同时必须将其研究进展公之于众,供所有人免费使用。


Debug data: