人工智能研究與生產限制法案

出自星際公民中文百科

《人工智能研究與生產限制法案》(AIRPRA),俗稱「AI禁令」,是地球聯合帝國的一項法案,該法案對人工智能的研究做出了嚴格的限制。該法案誕生於一艘載有數千名低溫休眠人類的長途殖民飛船阿爾忒彌斯號的失蹤事件,這起事件被認為是飛船上用於監控和駕駛飛船的人工智能導致的,而政客們也利用了這一事件大做文章,將限制人工智能研究作為他們的政治議題,用於賺取選票。在之後幾十年裏,世界各國都開始禁止人工智能研究,2380年地球聯合國成立時,其創立者在最初立法時便將限制人工智能納入其中。之後的地球行星聯合國和地球聯合帝國在成立時也保留了此法,直到今天,它仍然是國家的法律。

概述

AIRPRA授權參議院審查,批准或拒絕任何有關人工智能的研究,包括商業和非商業研究。法案中將人工智能定義為「任何能夠以令人信服的方式模仿人類智能的軟件或硬件」,這一寬泛的標準使得對人工智能任何領域的研究都被施加了嚴格的限制,並有效禁止了UEE境內對於人工智能的生產和使用。法案的具體規章包括:

  • 禁止政府開展人工智能研究。
  • 私人開展的人工智能研究必須經由參議院批准。
  • 獲得批准的人工智能研究必需處於UEE科學與技術委員會的嚴格監督之下。
  • 批准隨時都可撤銷。
  • 禁止銷售任何和人工智能有關的產品。

任何被發現違反AIRPRA的人都會被逮捕並被判處15-20年的監禁。公司和研究機構如果被發現有意教唆人工智能研究,將被處以一定比例的罰款甚至沒收財產。

歷史

2043年,空色公司推出了一系列自動駕駛汽車,並聲稱這是第一個真正的人工智能產品。不同於早期的人工智能模型,這個模型使用了深度生成技術,可以模仿人類的智能,但其本身並不真正具備智能。空色公司承諾,這種新的人工智能擁有最老練的人類駕駛員的智慧,良好的判斷力和快速的反應能力。東京為了加強交通基礎設施建設,方便那些與火車站相距較遠的地區的通勤,向空色公司購買了一批汽車和巴士,成為了空色公司的早期投資者。

2044年,一輛空色公司的巴士在懸崖邊上行駛時執行了錯誤的拐彎動作,從懸崖邊墜入海中,造成了21人死亡。15分鐘後,又有一輛載着37人的巴士墜入海中。當局聯繫了空色公司,該公司的技術人員向東京市及其郊區的所有自動駕駛車輛發出了緊急停止的指令。然而,只有那些未處於駕駛狀態的車輛按照指令停止了,而那些仍在運送乘客的車輛則沒有理會指令,而是繼續完成剩下的行程。雖然在所有車輛停止駕駛前,絕大多數車輛最終都沒有發生任何事故,但仍又有3輛巴士和18輛汽車發生了致命事故,此次事件共導致113人死亡。此次事件後來被稱為「旅鼠車事件」,空色公司也因此解散。自此,日本禁止在了人工智能在自動駕駛車輛上的應用,但直到2044年在紐約和2047年在約翰內斯堡發生的其他公司的汽車造成的致命事故後,其他地方才頒佈了類似禁令。

由於公眾對人工智能高度不信任,投資者也不願意支持人工智能主導的企業,研究人員開始關注人工智能在科學領域而不是日常生活上的應用。2055年,人工智能幫助確定了一種常見於頂級食肉動物消化系統中的細菌,並將其用於預防朊病毒疾病。另一個人工智能則幫助建立了狂犬病的治療方法。一個特別先進的人工智能負責計算航天器的軌跡,確保了早期的火星任務的成功。這些成功解凍了公眾輿論,並為人工智能在火星早期的地球化改造平台中的應用鋪平了道路。

應用於火星地球化改造的人工智能旨在完成快速計算並對大氣層進行微小調整,它以其為複雜問題提供富有想像力的解決方案的能力而聞名,而且速度和誤差方面都明顯優於人類。當時,負責火星地球化改造的團隊認為,人工智能使得該項目進展順利。然而,在2125年9月13日,一次後來被認定為與人工智能有關的計算錯誤導致火星大氣層幾乎完全消散,造成4800多人死亡,史稱「火星悲劇」。這一事件再次摧毀了公眾對人工智能的積極看法,並使大部分正在進行的開發工作停滯不前。

2201年,人工智能研究員卡羅爾·查希爾博士從私人渠道獲得資金,開始開發一種新型人工智能,並將其命名為「雅努斯」。「雅努斯」是當時最先進的人工智能,它可以進行對話、得出結論並做出有根據的猜測,其水平甚至超過了人類。2228年,羅伯茨太空工業公司開始建造一艘長途殖民飛船「阿爾忒彌斯號」,這艘飛船將依靠量子旅行到達代號為 GJ 667Cc的潛在宜居行星。查希爾主動聯繫了RSI,提議讓雅努斯成為飛船的操控中樞。考慮到飛船到達目的地需要200多年的時間,RSI同意了這一提議。這樣一來,船上的所有殖民者和船員都可以安全地處於低溫休眠狀態,而不會在旅途過程中因年齡過大而死亡。

阿耳忒彌斯號於2232年發射升空,引起了巨大反響。阿耳忒彌斯號進入安全航線後不久,發射人員便進入了低溫休眠狀態,只留下雅努斯負責指揮飛船。雅努斯會定期向地球發送報告,直到2237年,它的通信突然中止了。任務控制中心曾多次呼叫它,但雅努斯要麼拒絕回應,要麼無法回應。RSI和多國政府展開了大規模的搜救行動,但卻完全找不到一點阿爾忒彌斯號的蹤跡,它似乎消失得無影無蹤。

5000多人的失蹤在社會上引得一片譁然。雖然不能確定雅努斯與阿爾忒彌斯號的失蹤是否有關,但媒體以旅鼠車事件和火星悲劇為證據,指責雅努斯是這場災難的罪魁禍首。地球和火星上的政客們則把這一事件作為契機,要求禁止人工智能,以此作為爭取選票和上任的跳板。正如他們在數百次競選演說中承諾的那樣,他們頒佈了一系列禁令,停止並沒收了其管轄範圍內的任何人工智能研究。2380年地球聯合過成立時,人們對人工智能的不信任程度仍然很高,以至於《人工智能研究與生產限制法案》(AIRPRA)在參議院中以壓倒性的優勢通過,成為了UNE最早通過的法律之一。

批評

不過,也有些批評者指出,AIRPRA對人工智能的定義過於寬泛,那些和人工智能僅有微不足道的聯繫的研究和技術也被扼殺在搖籃之中,例如用於航天器或者互動玩具中的高效自動駕駛儀。還有人認為,對人工智能的保密使得政府能繞過公眾監督進行危險的研究,例如2943年解密的霸王項目。

皇帝萊拉尼·艾迪生在競選期間曾承諾放鬆對人工智能研究的限制,並表示「......技術的目標始終應該是幫助人類,而不是取代人類,這也包括人工智能。」她在接受光譜節目清鏡頻道採訪時說。她在2951年上任後不久提起的創新倡議允許向從事人工智能研究的研究機構發放特別豁免。任何獲得該豁免的機構都有資格獲得數量有限的政府撥款,同時必須將其研究進展公之於眾,供所有人免費使用。

Cookies 幫助我們給予服務內容。依您有使用我們的服務,代表您同意我們使用 cookies。