OpenAI是一個致力于推動人工智能領域發展的非營利組織，它的愿景是創造出能夠與人類價值觀保持一致的人工智能系統。為了實現這一目標，OpenAI 最近宣布了一個重大的舉措：組建一個名為“集體對齊”（Collective Alignment）的全新團隊，該團隊將專注于收集和利用公眾意見來訓練和塑造其人工智能模型的行為。

什么是“集體對齊”？

“集體對齊”是 OpenAI 去年 5 月啟動的一個公共項目的延續。該項目旨在通過資助一系列的實驗，探索如何建立一個“民主程序”，以確定人工智能系統應遵循的規則。這些實驗包括了視頻聊天界面、人工智能模型眾包審計平臺以及“將信念映射到可用于微調模型行為的維度的方法”等。

OpenAI 在其博客中解釋道：“我們的目標是打造一個系統，它能夠收集和‘編碼’公眾對我們模型行為的看法，并將這些寶貴的見解融入我們的產品和服務中。這樣一來，我們未來的人工智能模型就能更好地‘與人類價值觀保持一致’。”

為了實現這一目標，OpenAI 正在招募來自不同技術背景的研究工程師加入這個新團隊。他們表示：“我們將與外部顧問和其他團隊緊密合作，包括開展試點工作，將原型整合到我們的模型中。我們需要來自不同領域的專家，共同助力這項工作的推進。”

OpenAI 的新團隊創始成員泰納・埃倫杜（Tyna Eloundou）強調：“隨著我們不斷追求超級智能模型的發展，這些模型將逐漸成為我們社會不可或缺的一部分。因此，讓人們有機會直接提供意見至關重要。”

OpenAI 的動機是什么？

OpenAI 的這一舉措可以看作是對人工智能技術快速發展所帶來的挑戰和風險的一種回應。特別是其創造“深度偽造”圖片和其他錯誤信息的能力，讓人們在即將到來的 2024 年美國大選前夕感到不安。批評人士指出，像 ChatGPT 這樣的人工智能系統由于其輸入數據的影響而具有固有的偏見，用戶已經發現了一些人工智能軟件輸出中存在種族主義或性別歧視的例子。

OpenAI 希望通過收集公眾意見來解決這些問題，并提高其人工智能模型的透明度和可信度。他們認為，這樣可以讓人們更好地理解和控制人工智能系統，并確保其符合社會利益和道德標準。

OpenAI 還考慮與 Worldcoin 進行合作，以確保只有真正的人類才能參與投票和提供意見。Worldcoin 是 OpenAI 首席執行官薩姆・阿爾特曼（Sam Altman）創建的一個加密貨幣項目，它提供了一種有效區分人類和人工智能機器人的方法。

OpenAI 的挑戰是什么？

OpenAI 的這一舉措也面臨著一些挑戰和困難。首先，收集和利用公眾意見并不是一件容易的事情，需要考慮到多種因素，如代表性、可靠性、隱私、安全等。其次，公眾意見并不一定是統一的，甚至可能存在沖突和矛盾。如何平衡和協調不同的聲音，以及如何處理潛在的利益沖突，都是需要解決的問題。第三，公眾意見也并不一定是正確的，或者說與人工智能技術的發展方向和潛力相符的。如何避免受到錯誤或過時的信息的影響，以及如何教育和引導公眾更好地理解和評估人工智能技術，也是需要考慮的問題。

據鉍讀網了解，OpenAI 的“集體對齊”團隊是一個有意義的嘗試，它體現了 OpenAI 對人工智能技術的社會影響和責任的重視。然而，這個團隊也面臨著不少的挑戰和困難，需要在實踐中不斷探索和改進。我們期待看到 OpenAI 的這個團隊能夠取得令人滿意的成果，并為人工智能領域樹立一個良好的榜樣。