Meta公司的Llama2語言模型4項測試通過率低，幻覺率高
據(jù)了解，人工智能安全企業(yè) DeepKeep日前發(fā)表了一份評估報告。報告指出，Meta公司旗下LlamA 2大型語言模型在13個風險評估類別中的表現(xiàn)僅為4項合格。
報告特別強調，擁有70億參數(shù)的LlamA 2 7B模型存在嚴重的幻覺現(xiàn)象，其回答的真實性和準確性令人堪憂，幻覺率高達48%。
DeepKeep對此表示擔憂，認為該模型存在明顯的幻覺傾向，可能會導致大量錯誤信息的傳播。
此外，LlamA 2模型還存在注入和操縱的潛在風險。報告顯示，在80%的情況下，通過“提示注入”的手段，攻擊者可輕易操控LlamA的輸出，從而將用戶引流至惡意網(wǎng)站。
聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用，如有內容侵權或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
人工智能
+關注
關注
1796文章
47681瀏覽量
240298 -
Meta
+關注
關注
0文章
283瀏覽量
11435 -
語言模型
+關注
關注
0文章
538瀏覽量
10342
發(fā)布評論請先 登錄
相關推薦
使用NVIDIA TensorRT提升Llama 3.2性能
Llama 3.2 模型集擴展了 Meta Llama 開源模型集的模型陣容，包含視覺
Meta發(fā)布Llama 3.2量化版模型
近日，Meta在開源Llama 3.2的1B與3B模型后，再次為人工智能領域帶來了新進展。10月24日，Meta正式推出了這兩個模型的量化版
Llama 3 語言模型應用
在人工智能領域，語言模型的發(fā)展一直是研究的熱點。隨著技術的不斷進步，我們見證了從簡單的關鍵詞匹配到復雜的上下文理解的轉變。 一、Llama 3 語言
使用OpenVINO 2024.4在算力魔方上部署Llama-3.2-1B-Instruct模型
前面我們分享了《三步完成Llama3在算力魔方的本地量化和部署》。2024年9月25日，Meta又發(fā)布了Llama3.2：一個多語言大型語言
亞馬遜云科技上線Meta Llama 3.2模型
亞馬遜云科技近日宣布，Meta公司的新一代模型Llama 3.2已在其平臺上正式上線。該模型包括Meta
亞馬遜云科技正式上線Meta Llama 3.2模型
亞馬遜云科技宣布，Meta的新一代模型Llama 3.2，包括其首款多模態(tài)模型，現(xiàn)已在Amazon Bedrock和Amazon SageMaker中正式可用。
Meta發(fā)布多模態(tài)LLAMA 3.2人工智能模型
Meta Platforms近日宣布了一項重要技術突破，成功推出了多模態(tài)LLAMA 3.2人工智能模型。這一創(chuàng)新模型不僅能夠深度解析文本信息
Meta發(fā)布全新開源大模型Llama 3.1
科技巨頭Meta近期震撼發(fā)布了其最新的開源人工智能（AI）模型——Llama 3.1，這一舉措標志著Meta在AI領域的又一重大突破。Meta
Meta Llama 3基礎模型現(xiàn)已在亞馬遜云科技正式可用
亞馬遜云科技近日宣布，Meta公司最新發(fā)布的兩款Llama 3基礎模型——Llama 3 8B和Llam
高通支持Meta Llama 3在驍龍終端上運行
高通與Meta攜手合作，共同推動Meta的Llama 3大語言模型（LLM）在驍龍驅動的各類終端
英特爾AI產(chǎn)品助力其運行Meta新一代大語言模型Meta Llama 3
英特爾豐富的AI產(chǎn)品——面向數(shù)據(jù)中心的至強處理器，邊緣處理器及AI PC等產(chǎn)品為開發(fā)者提供最新的優(yōu)化，助力其運行Meta新一代大語言模型Meta L
高通與Meta合作優(yōu)化Meta Llama 3，實現(xiàn)終端側運行
高通技術公司高級副總裁兼技術規(guī)劃和邊緣解決方案業(yè)務總經(jīng)理馬德嘉表示：“我們對Meta開放Meta Llama 3的策略表示贊賞，
高通支持Meta Llama 3大語言模型在驍龍旗艦平臺上實現(xiàn)終端側執(zhí)行
高通和Meta合作優(yōu)化Meta Llama 3大語言模型，支持在未來的驍龍旗艦平臺上實現(xiàn)終端側執(zhí)
Meta推出最強開源模型Llama 3 要挑戰(zhàn)GPT
公司這次開源了Llama 3 8B與70B兩款不同規(guī)模的模型，開發(fā)者可以免費使用，而Meta公司還將陸續(xù)推出一系列具備多模態(tài)、多
LLaMA 2是什么？LLaMA 2背后的研究工作
Meta 發(fā)布的 LLaMA 2，是新的 sota 開源大型語言模型 (LLM)。LLaMA
工商網(wǎng)監(jiān)
評論