ChatGPT 創建者 OpenAI 刪除了一個冒充美國總統候選人聲音的機器人，對政治競選活動如何使用其人工智慧功能施加了限制。

支持美國國會議員迪恩·菲利普斯的一個政治團體要求一家位於邁阿密的新創公司創建一個聊天機器人，允許用戶與這位鮮為人知的候選人進行問答。

「我們最近刪除了一個開發者帳戶，該帳戶故意違反我們的API（或平台）使用政策，該政策禁止政治競選或未經同意冒充個人，」Open AI 週六告訴《華盛頓郵報》，該報最先報道了這一事件。

生成式人工智慧的興起引發了人們的擔憂，人們擔心人們可能會利用 ChatGPT 和其他平台透過虛假資訊或人工智慧克隆來製造政治混亂，特別是今年全球將舉行多場重大選舉。

作為該領域的領導者，OpenAI 因這些問題而受到特別嚴格的審查，該公司上週表示，將向用戶提供工具，以減少其技術造成損害的可能性。

「迪恩機器人」的目的是作為候選人在民主黨初選中對抗喬·拜登總統的資訊工具。

它依賴 OpenAI 的技術，在《華盛頓郵報》的一篇文章提供了測試它的連結後，這家微軟支援的公司迅速採取行動將其下架。

這政治團體根據《華盛頓郵報》報道，該機器人背後的團隊「We Deserve Better」由 OpenAI 執行長 Sam Altman 的一名前員工共同領導，並已獲得矽谷投資者的資助。

報告發布後，受僱創建該機器人的新創公司德爾福被排除在 OpenAI 平台之外。

Delphi 創建的機器人可以模仿影響者或名人等名人的聲音，並依賴 OpenAI 的人工智慧模型來運作。

爭議發生後，它表示從現在起將“禁止任何人使用我們的平台”政治組織或個人」。

「我們錯誤地認為，根據 OpenAI 服務條款，有一個政治行動委員會支持 Dean Phillips 使用我們的技術創建他的克隆人是可以接受的。平台，」德爾福週日在 X 上說道。

「我們已經為我們的錯誤向 OpenAI 和 We Deserve Better 道歉，」這家新創公司補充道。

© 2024 法新社