當自動駕駛車輛撞到行走者時，誰應該被認為是合法的責任?應該把矛頭指向驅動車輛的人工智能(AI)軟件的車主、制造商還是工程師?

當機器人或人工智能做出決策時，決定“風險”的問題是一個有趣而重要的課題，因為這種創新在行業中的應用越來越多，并開始更直接地影響我們的日常生活。

誠然，隨著人工智能和機器學習創新的應用發展，我們可能會觀察到它如何改變工作、組織、企業和社會的觀念。但是，盡管人工智能有能力顛覆和推動更顯著的效率，但它也有它的缺點：“當事情出錯時，誰會面臨風險”是其中之一。

道路交通事故是造成意外死亡的主要原因之一，也是為什么應更迅速地采用自動駕駛汽車的主要支持論點之一。盡管新加坡、韓國和歐洲等許多地方的準備工作正在取得進展，但為包括人工智能這樣的尖端技術在內的災難分擔風險的努力已成為全球對話的主流。

在第三屆技術法律年會期間。在最近舉行的FEST論壇上，專家們表示，新加坡的法律目前無法充分指定風險，因為在包括人工智能或機器人技術在內的事故中遭受的不幸或損害。

新加坡法律學會機器人和人工智能小組委員會聯席主席CharlesLim說：“自主機器人和人工智能框架在沒有人為貢獻的情況下獨立工作的非凡能力攪渾了責任的渾水。

由11個部分組成的機器人和人工智能小組在一個月前發布了關于在此類案件中應如何確定民事責任的報告。盡管新加坡在國際發展研究中心2019年的政府人工智能準備指數中排名第一，但該國實際上并沒有法律框架來監管機器人或人工智能引發的責任，包括自動駕駛汽車(AVs)的民事責任。

他說：“有很多不同的因素(例如，在起作用的方面，AI框架的基礎軟件代碼，準備的信息以及框架的外部環境。”Lim是法律顧問和聯合主席新加坡法學院機器人與人工智能小組委員會。

這種情況非常令人迷惑，事故是否可能是由于非活動的錯誤，由最新的軟件更新引起的，還是由于人們為事故鋪平道路的功能選擇所造成的。Lim在網絡研討會上以個人身份發言，他說，按照事件的確切順序為事故鋪平道路以證明責任可能是不可預測的和代價的。

另一位小組成員、機器人和人工智能小組委員會成員喬希·李(JoshLee)認為，對于這里的立法者來說，第一步可能是解決如何稱呼坐在駕駛座上的個人。

他說：“我們建議將此人稱為‘用戶負責人’，因為此人可能無法完成駕駛任務，但有能力在必要時接管車輛。”。“這在當今許多情況下都可以應用于無人駕駛車輛，例如醫療診斷。”

2018年，英國法律委員會首次提出了“用戶負責”這一說法，該委員會推遲了將這類用戶置于獨立監管體制下的完全自動化環境中的建議。

人工智能和機器人小組委員會成員、律師BeverlyLim在網絡研討會上表示，不應該被追究風險的人是坐在駕駛座上的司機，因為他購買車輛時會認為人工智能會是一個相對更可靠的司機。