QQ在線(xiàn)
企業(yè)微信
資訊
269英國(guó)《新科學(xué)家》周刊網(wǎng)站8月7日文章，原題：人工智能聊天機(jī)器人能否受到“說(shuō)真話(huà)”法律義務(wù)的約束人們能要求人工智能講真話(huà)嗎？或許不能，但一個(gè)倫理學(xué)家團(tuán)隊(duì)表示，從法律上來(lái)說(shuō)，人工智能開(kāi)發(fā)商應(yīng)該承擔(dān)減少犯錯(cuò)風(fēng)險(xiǎn)的責(zé)任。“我們只是在嘗試創(chuàng)建一種激勵(lì)構(gòu)架，讓公司在創(chuàng)建（大語(yǔ)言模型）系統(tǒng)時(shí)更重視真實(shí)性或準(zhǔn)確性，”牛津大學(xué)倫理學(xué)家布倫特·米特爾施塔特說(shuō)。
基于對(duì)大量文本的統(tǒng)計(jì)分析，大語(yǔ)言模型聊天機(jī)器人，例如ChatGPT能對(duì)用戶(hù)提出的問(wèn)題生成類(lèi)似人類(lèi)的回答。然而，盡管它們的答案通常看起來(lái)令人信服，但也容易出錯(cuò)，這是一種被稱(chēng)為“幻覺(jué)”的缺陷。米特爾施塔特說(shuō)：“我們擁有這些極其令人印象深刻的生成式人工智能系統(tǒng)，但它們也會(huì)頻繁出錯(cuò)，從我們對(duì)這種系統(tǒng)基本機(jī)能的了解來(lái)看，沒(méi)有根本的解決方法。”
米特爾施塔特表示，對(duì)大語(yǔ)言模型系統(tǒng)來(lái)說(shuō)，這是一個(gè)重大問(wèn)題，因?yàn)樗鼈冋诒粦?yīng)用于政府決策，在這種情況下，它們誠(chéng)實(shí)地承認(rèn)自己的知識(shí)局限性就變得至關(guān)重要。為解決這個(gè)問(wèn)題，他們提出一系列應(yīng)對(duì)措施：當(dāng)被問(wèn)及與事實(shí)有關(guān)的問(wèn)題時(shí)，人工智能應(yīng)該像人一樣。這意味著它們要誠(chéng)實(shí)，秉持“知之為知之，不知為不知，是知也”的態(tài)度?！耙c(diǎn)在于采取必要步驟，讓它們真正做到謹(jǐn)言慎行，”米特爾施塔特說(shuō)，“如果對(duì)某件事不確定，它們不要只是為了讓人們信服而編造一些東西。相反，它們應(yīng)該說(shuō)，‘嘿，你知道嗎？我不知道。讓我來(lái)研究一下。我會(huì)回復(fù)你的?！?span>
這似乎是一個(gè)值得稱(chēng)贊的目標(biāo)，但在英國(guó)德蒙福特大學(xué)網(wǎng)絡(luò)安全教授伊爾克·鮑伊騰看來(lái)，倫理學(xué)家提出的這些要求在技術(shù)上未必可行。開(kāi)發(fā)商正嘗試讓人工智能實(shí)事求是，但到目前為止，事實(shí)證明這是一項(xiàng)極其“勞動(dòng)密集型”的任務(wù)，甚至不切實(shí)際?！拔也幻靼?，他們?cè)趺雌谕梢髲?qiáng)制執(zhí)行這種命令，我認(rèn)為這在技術(shù)上根本行不通，”鮑伊騰說(shuō)。
為此，米特爾施塔特及其同事們提出一些更直接的措施，可能使人工智能更“誠(chéng)實(shí)”。他說(shuō)，這些模型應(yīng)該列出答案的信息源，目前許多模型都在這樣做以證明它們給出答案的可信度，此外，更廣泛地使用一種被稱(chēng)為“檢索增強(qiáng)”的技術(shù)來(lái)給出答案，也可能限制這些模型產(chǎn)生“幻覺(jué)”的可能性。他還認(rèn)為，應(yīng)該縮減在政府決策等高風(fēng)險(xiǎn)領(lǐng)域部署人工智能的規(guī)模，或者應(yīng)該限制模型可利用的信息源?！叭绻覀冇幸粋€(gè)僅在醫(yī)學(xué)中使用的語(yǔ)言模型，我們就應(yīng)該限制它，讓它只能在高質(zhì)量醫(yī)學(xué)期刊上搜索學(xué)術(shù)文章?！?span>
米特爾施塔特聲稱(chēng)，改變觀(guān)念也很重要，“如果我們能擺脫所謂（大語(yǔ)言模型）善于回答事實(shí)性問(wèn)題、或者它們至少會(huì)給你一個(gè)可靠答案的想法，而是認(rèn)為它們有助于為你提供更多相關(guān)的信息，那就太好了。”
但荷蘭烏得勒支大學(xué)法學(xué)院副教授卡塔琳娜·戈安塔表示，這些研究人員過(guò)于關(guān)注技術(shù)，因此對(duì)公共話(huà)語(yǔ)中長(zhǎng)期存在的謊言問(wèn)題關(guān)注不夠?！霸谶@種背景下，僅將矛頭指向大語(yǔ)言模型會(huì)制造一種假象，即人類(lèi)非常勤奮細(xì)致，永遠(yuǎn)不會(huì)犯此類(lèi)錯(cuò)誤。問(wèn)問(wèn)你遇到的任何法官，他們都遇到過(guò)律師玩忽職守的可怕經(jīng)歷，反之亦然——這并非一個(gè)機(jī)器的問(wèn)題?！保ㄗ髡呖死锼埂に雇锌藸?span>-沃克，王會(huì)聰譯）
