亞馬遜利用自動推理來保護關鍵人工智慧系統

亞馬遜正在其整個業務中積極實施人工智慧，以提高營運效率，提升客戶滿意度，擴大市場份額。不過人工智慧作為不總是如預期運作且容易產生幻覺的機率系統也存在風險。為了幫助最大限度地降低與人工智慧相關的風險，亞馬遜及其子公司AWS(亞馬遜網路服務)正在轉向一種經過時間考驗但鮮為人知的技術，稱為自動推理。

自動推理是計算機科學的一個領域，旨在為複雜系統的行為提供更大的確定性。從本質上講，自動推理基於邏輯和數學為採用者提供了強有力的保證，使系統將完成其設計目的。

Neha Rungta是AWS的應用科學主任，她擁有楊百翰大學的電腦科學博士學位，在北加州的美國國家航空暨太空總署艾姆斯研究中心工作期間使用了自動推理技術。

Rungta說：“這是使用數理邏輯來證明系統的正確性，並在架構代碼中設計系統。”“傳統上，這些技術用於航空航天等領域，在這些領域確保系統正確至關重要。”

自2016年以來，Rungta一直在利用她的專業知識來幫助AWS提高其服務的安全性。她的AWS成就包括兩個產品，IAM Access Analyzer和Amazon S3 Block Access。 IAM Access Analyzer用於分析Amazon IAM(身分和存取管理)及其每秒20億個請求。

Rungta在上週re:Invent 2024的一次採訪中說：「Amazon S3 Block Access由自動推理提供支持，如果客戶打開它，可以保證他們的存儲桶不會向公眾授予無限制的訪問權限，無論是現在還是未來的任何時候。

在上週二的re:Invent上，AWS宣布它正在使用Amazon Bedrock的自動推理，該服務用於訓練和運行基礎模型，包括大型語言模型(LLM)和圖像模型。該公司表示，這項名為「自動推理檢查」的服務是「第一個也是唯一一個生成式人工智慧(GenAI)保障，它有助於使用邏輯準確和可驗證的推理來防止因幻覺而導致的事實錯誤。

雖然神經網絡，如GenAI核心的LLM，功能強大，提供了比傳統機器學習技術更大的預測能力，但它們也往往不透明，這限制了它們在某些領域的有用性。透過在GenAI模型之上使用自動推理模型，客戶可以更加確信該模型不會因神秘原因而行為不端。

Rungta說，這在很大程度上是一種基於規則的方法。

她說：「這些模式與你想到的LLM模式截然不同。」思考這些模型的方式是，它們是一組規則，一組關於系統真實性的聲明性語句。假設是什麼?給定一組特定的輸入，你想確保它們保持不變的輸出是什麼?自動推理帶來了一種基於規則的方法來確保概率人工智能係統的正確行為。

「有不同的技術來創建和分析這些模型，」她繼續說道。 「有些是基於證明形式定理。另一個是基於可滿足性問題，所以最後本質上是布林邏輯。還有一些是基於程式碼分析技術。所以它們與你對大型語言模型或基礎模型的看法非常不同。 」

如果自動推理可以為機率系統提供類似確定性行為的東西，那麼為什麼它們沒有得到更廣泛的應用呢?畢竟，對LLM做或說有毒或錯誤的事情的恐懼是當前GenAI熱潮中最大的擔憂之一，並阻礙了許多公司將GenAI應用程式投入生產。

Rungta說，原因是自動推理是有代價的。與其說是運行自動推理模型的計算成本，不如說是開發和測試它的成本。採用者不僅需要人工智慧領域這一小分支的專業知識，還需要應用自動推理的領域的專業知識。這就是為什麼到目前為止，它僅限於在最敏感的領域使用，在這些領域，得到錯誤的答案可能是災難性的。

Rungta說：「有很多工作要做，你怎麼知道你的規則對一個複雜的系統是正確的?」「這並不容易。你必須進行驗證。你怎麼知道你的規則是如何與環境相互作用的?你沒有整個世界的規則。

Rungta說，隨著這些LLM中的一些變得更小，更好地適應特定領域，將自動推理技術應用於它們就越容易、成本越低。為此，AWS也宣布了其新的Amazon Bedrock模型蒸餾產品以及自動推理檢查產品。這兩種技術是相輔相成的。

隨著GenAI時代的興起，亞馬遜正尋求成為領導者。亞馬遜創辦人貝佐斯在本週的《紐約時報》會議上表示，該公司內部有1,000多個人工智慧專案。根據《商業內幕》報道，他正在花更多的時間參與公司，以使其中一些人工智慧專案接近完成。

當我們開始人工智慧代理時代時，我們會看到不同的人工智慧代理(AI Agent)有不同的工作。我們很可能會看到一些人工智慧代理人充當工人的代理監督者，這些領域可能會發展出自動推理能力。

AWS是使用人工智慧自動推理的先驅。似乎沒有其他公司正在使用這項技術來提高人工智慧模型及其驅動的應用程式的可靠性。但Rungta樂觀地認為，這項技術可以提供很多東西，最終將有助於釋放人工智慧的巨大潛力。

「我確實認為生成式人工智慧將改變我們的生活方式，」她說。 “模型們每週都在進步，如果不是每天的話。這是一個迷人的時刻。”