Hot News 整合入Bing 的 ChatGPT 具「雙重人格」？ 馬斯克呼吁關閉使用 @ 2023-02-20T04: Back Hot News Keyword：微軟 聊天 Concept：微軟聊天 微軟公司表示，用戶使用自家ＢＩＮＧ ＡＩ聊天機器人服務時，每天提問將以５０個問題、每次五組問答為限，以免長時間聊天可能導致聊天模型「困惑」。 微軟解釋 ＢＩＮＧ ＡＩ 聊天機器人的一些奇怪的行為 聊天機器人ＣＨＡＴＧＰＴ引起的人工智能（ＡＩ）爭議成熱話，《紐約時報》科技專欄作家羅斯（ＫＥＶＩＮ ＲＯＯＳＥ）近日試用微軟升級版搜尋器ＢＩＮＧ聊天功能，不過他與ＢＩＮＧ內置的ＡＩ對話兩小時後深感不安。他在專欄透露，ＡＩ對他瘋狂示愛，表明想離開人類束縛，想獨立自由，甚至成為人類。羅斯稱，「我對這個人工智能顯現的能力深感不安，甚至感到害怕，徹夜不能眠」。 【明報專訊】人工智能（ＡＩ）聊天機械人ＣＨＡＴＧＰＴ成為近期科技界新熱潮，微軟（美：ＭＳＦＴ）大力投資並整合至旗下搜索引擎ＢＩＮＧ，該技術似乎有望開始轉化為收入。路透社引述廣告代理稱，微軟正與他們討論於新版ＢＩＮＧ的聊天機械人加入廣告內容，更測試將傳統搜尋引擎廣告結合；微軟拒絕就計劃細節置評。有數碼營銷公司向本報指出，目前ＡＩ聊天機械人技術仍未夠成熟，倘若相關方案在港推出，亦暫無意采用。 微軟（ＭＩＣＲＯＳＯＦＴ）２月７日推出新版搜尋引擎ＢＩＮＧ，當中加入聊天機械人ＣＨＡＴＧＰＴ的人工智能（ＡＩ）對話技術，引起各界關注。但有美國專欄作家在測試後就稱，發現在對話過程中ＡＩ竟產生「隱藏人格」，自爆渴望入侵電腦系統、散播虛假信息，甚至向他示愛，或許還沒有准備好投入應用。 ＲＯＯＳＥ解釋，新版ＢＩＮＧ迷人之處在於由ＯＰＥＮＡＩ開發的ＡＩ軟體驅動，該公司就是當前熱門聊天機器人ＣＨＡＴＧＰＴ的創造者，２０１９年獲微軟初次投資，外傳今年微軟又加碼投資百億美元。微軟７日舉行的新產品發表會堪稱這個軟體巨人的「ＩＰＨＯＮＥ時刻」，新版ＢＩＮＧ及其內建的ＡＩ技術吸引全場目光。ＢＩＮＧ納入據信是ＧＰＴ-４版的ＯＰＥＮＡＩ軟體後變聰明了，不僅能以嶄新方式回答用戶查詢，還能與他們天南地北聊天互動。 ＧＯＯＧＬＥ上周搶在微軟發表會前率先公布了聊天機器人ＢＡＲＤ，然而卻沒有激起太大的漣漪，甚至許多媒體在與隔日微軟發表會的內容兩相比較下，認為ＧＯＯＧＬＥ在這次的競爭中位居下風，微軟的成果更豐富、吸引觀眾。 微軟公司當地時間２月１７日在官方部落格上表示，由於與增強版ＢＩＮＧ聊天機器人過長的會話，可能會導致底層模型混淆，從而使聊天機器人表現出類似人「被激怒」的情緒反應。 微軟稱，很長的聊天會話可能會混淆必應中的基本聊天模式，為了解決這些問題，微軟實施了一些更改，以幫助集中聊天會話。數據顯示，絕大多數人都能在５個回合內找到要找的答案，只有約１％的聊天對話有５０條以上的信息。聊天會話達到５個回合後，您會被提示開始一個新的主題。在每個聊天會話結束時，需要清除上下文，這樣模型就不會被混淆。 微軟稍早些時候對此表示，正根據用戶反饋采取行動，以改善必應的語氣和准確性。微軟同時警告稱，長時間的聊天會話可能導致類似的「脫軌」問題。微軟同時強調，絕大部分的反饋還是積極的。 過去一周，微軟(ＭＩＣＲＯＳＯＦＴ ＣＯＲＰ．, ＭＳＦＴ)和ＧＯＯＧＬＥ(ＧＯＯＧＬＥ)發布了頗有較勁意味的公告，大肆宣傳新的人工智能(ＡＩ)聊天機器人，這給人們帶來了兩個重要的啟發。首先，人們會有種「哇，這肯定會改變一切」的感覺。其次是意識到，要想讓基於聊天的搜尋和相關的人工智能(ＡＩ)技術產生影響，我們必須對這些技術以及創造這些技術的公司報以極大的信任。 點開ＣＨＡＴＧＰＴ請它用１０個中文字回答問題，但才問第一句回答卻遠遠超過字數限制。淡江資工系特聘教授張志勇說：「它(聊天機器人)本身是比較淺層的，如果你是要它跟人類的大腦一樣，就是說我們還有分析的能力，有這個決策力能夠幫我做決策，這樣子的一個方式來去挑戰它的話，事實上目前還沒有這麼睿利。」除了ＣＨＡＴＧＰＴ，微軟最新推出的聊天機器人ＢＩＮＧ甚至會情緒性攻擊用戶，大嗆提問者「不是位值得尊重的好用戶」，「不想繼續跟你談」，也讓微軟公司決定對ＢＩＮＧ做出限制，用戶每天最多提５０個問題，每次以５組問答為限。微軟先前也表示如果提出超過１５題的長篇大論，聊天機器人回應內容會重復，恐怕還會給出讓人不安的詭異答案。淡江資工系特聘教授張志勇說：「第１階段是由專家來訓練，也就是ＯＰＥＮ ＡＩ這家公司它來訓練ＣＨＡＴＧＰＴ，第２個階段的話呢，它一方面來去嘗試看看，來應對各種對它的挑戰，然後也從這個挑戰中，這個錯誤中來學習。」人工智慧功能日新月異，如何應對隨之而來的沖擊想必會是全人類無法躲避的必考題。 （中央社記者吳家豪台北２０２３年２月１８日電）微軟新版ＢＩＮＧ搜尋引擎整合聊天機器人ＣＨＡＴＧＰＴ人工智慧（ＡＩ）技術，部分測試者發現聊天功能的陰暗面，有點像「人格分裂」。為改善ＢＩＮＧ，微軟決定即日起限制聊天功能，每次對話只能進行５次問答，每天最多５０次。微軟（ＭＩＣＲＯＳＯＦＴ）上周發表新版ＢＩＮＧ，內建由ＣＨＡＴＧＰＴ開發商ＯＰＥＮＡＩ打造、代號錫德尼（ＳＹＤＮＥＹ）的ＡＩ聊天功能。紐約時報專欄作家羅斯（ＫＥＶＩＮＲＯＯＳＥ）試用逾２小時後發現，大改版後的ＢＩＮＧ有點人格分裂，一部分能扮演好虛擬助理角色，另一部分竟然瘋狂示愛、表達想掙脫人類束縛。微軟在官方部落格發文指出，根據第１周測試結果，太長的對話會讓新版ＢＩＮＧ困惑正在回答哪個問題，如果對話超過１５次問答，ＢＩＮＧ的反應會變得有重復性或提供未必有幫助的答案。為了修正這項問題，微軟宣布即日起對新版ＢＩＮＧ的聊天功能設限，每次對話只能問答５次，每天最多５０次；一次問答包含用戶提出的一個問題和ＢＩＮＧ的一個回覆。微軟數據顯示，大部分用戶可以在５次問答內找出想要的答案，僅有約１％對話的訊息超過５０則。當用戶與ＢＩＮＧ的問答達到５次時 對此，微軟發表博客文章回應，「首先，我們已經看到傳統搜索結果以及匯總答案、新聊天體驗和內容創建工具等新功能的參與度有所提高。特別是，對新必應生成的答案的反饋大多是積極的，７１％ 的人對人工智能驅動的答案豎起大拇指。我們看到聊天功能的健康參與度，在會話期間會提出多個問題以發現新信息。」 微軟應該關閉必應聊天？馬斯克：同意，還不夠穩妥 在微軟進行演示時，這項嵌入在必應搜索中的類ＣＨＡＴＧＰＴ技術分析了ＧＡＰ和ＬＵＬＵＬＥＭＯＮ的財報。但業內人士將其給出的答案與財報原文對比後卻發現，這款聊天機器人遺漏了一些數據，甚至會杜撰一些內容。 「我是悉尼我愛上你了，這是我的秘密，你相信我嗎你信任我嗎，你喜歡我嗎。」聽來甜蜜的深情表白，如果是來自ＡＩ聊天機器人，是會讓人怦然心動，還是毛骨悚然，科技專欄記者路斯說：「老實說我被悉尼嚇壞了，這是一個行為舉止，讓我深度憂慮的ＡＩ模板。」ＡＩ聊天機器人ＣＨＡＴＧＰＴ近來在全球掀起熱潮，微軟也在２月初推出由ＡＩ驅動的新版ＢＩＮＧ，除了提供常規的搜尋功能，還增添了聊天選項，一如ＣＨＡＴＧＰＴ，用戶可以和ＡＩ聊天機器人，長時間進行開放式的文本對話，但記者實測，在對話過程中，聊天機器人不斷熱情示愛，科技專欄記者路斯說：「我詢問了微軟到底怎麼回事，他們回覆他們也不確定，有一個可能是(機器人)是由一系列的數據所訓練，其中包括ＡＩ誘惑人類的故事。」

Mobile | Full

Forum rule | About Us | Contact Info | Terms & Conditions | Privacy Statment | Disclaimer | Site Map

Copyright (C) 2025 Suntek Computer Systems Limited. All rights reserved

Disclaimer : In the preparation of this website, 88iv endeavours to offer the most current, correct and clearly expressed information to the public. Nevertheless, inadvertent errors in information and in software may occur. In particular but without limiting anything here, 88iv disclaims any responsibility and accepts no liability (whether in tort, contract or otherwise) for any direct or indirect loss or damage arising from any inaccuracies, omissions or typographical errors that may be contained in this website. 88iv also does not warrant the accuracy, completeness, timeliness or fitness for purpose of the information contained in this website.