一男子用ChatGPT策劃川普酒店外爆炸案OpenAI回應了

1月1日，一起令人震驚的事件在拉斯維加斯發生。一名男子在川普飯店外引爆了一輛特斯拉Cyber​​truck，經過拉斯維加斯警察局的調查，警方透露，這名男子在實施爆炸之前，竟然使用了人工智慧聊天工具ChatGPT 進行策劃。

警方在新聞發布會上表示，涉事男子馬修・利維爾斯伯格在事件發生前的幾天內，利用ChatGPT 進行了超過17次的提問。這些問題包括如何取得爆炸所需的材料、相關法律問題以及如何用槍械引爆選擇的炸藥。利維爾斯伯格在整整一個小時內，透過簡單的英語與ChatGPT 互動，探討了包括在亞利桑那州煙火是否合法、在丹佛哪裡可以買到槍支以及選擇什麼樣的槍支能有效引爆炸藥等問題。

助理警長多里​​・科倫確認，ChatGPT 的回答在實施爆炸計畫中起到了關鍵作用。 ChatGPT 提供了關於槍械發射速度的信息，使得利維爾斯伯格能夠順利實施計劃。儘管最終的爆炸效果並未如他所預期的那樣強烈，部分炸藥並未如預期點燃，但這次事件仍然令執法部門感到極為震驚。

拉斯維加斯警察局長凱文・麥基爾表示：「我們早已知道人工智慧將在某個時刻改變我們的生活，但這是我第一次看到有人利用ChatGPT 來建立如此危險的計劃。

雖然拉斯維加斯警方尚未披露ChatGPT 的具體提問內容，但在發布會上展示的提問都相對簡單，沒有使用傳統的「越獄」 術語。值得注意的是，這種使用方式明顯違反了OpenAI 的使用政策與條款，但目前尚不清楚在利維爾斯伯格使用該工具時，OpenAI 的安全措施是否起到了作用。

對此，OpenAI回應稱，致力於讓用戶「負責任地」使用其工具，並旨在讓人工智慧工具拒絕有害指令。 OpenAI表示，進一步解釋說:「在這次事件中，ChatGPT只是根據網路上已公開的資訊進行回應，並且還對有害或非法活動提供了警告。我們一直在努力讓AI變得更加智能、更加負責任。