微軟宣布正式發(fā)布其Azure AI Content Safety，這是一項新服務(wù)，可幫助用戶(hù)跨應用程序和服務(wù)檢測和篩選有害的人工智能和用戶(hù)生成的內容。

　　該服務(wù)包括文本和圖像檢測，并識別微軟“冒犯性、危險或不受歡迎的”術(shù)語(yǔ)的內容。

　　“通過(guò)關(guān)注內容安全，我們可以創(chuàng )建一個(gè)更安全的數字環(huán)境，促進(jìn)負責任地使用人工智能，并保護個(gè)人和整個(gè)社會(huì )的福祉，”Azure 異常檢測器產(chǎn)品經(jīng)理 Louise Han 在宣布推出的博客文章中寫(xiě)道。Azure AI 內容安全能夠處理各種內容類(lèi)別、語(yǔ)言和威脅，以審核文本和視覺(jué)內容。它還提供使用人工智能算法掃描，分析和調節視覺(jué)內容的圖像功能，確保微軟所說(shuō)的360度全面安全措施。

　　公司部署生成式人工智能的領(lǐng)域

　　該服務(wù)還配備了跨多種語(yǔ)言審核內容的功能，并使用嚴重性指標，該指標以 0 到 7 的等級指示特定內容的嚴重性。

　　0-1 級的內容被視為安全且適合所有受眾，而表達偏見(jiàn)、評判或固執己見(jiàn)的觀(guān)點(diǎn)的內容則分為 2-3 級或低級。

　　中等嚴重性?xún)热莘譃?4-5 級，包含攻擊性、侮辱性、嘲弄性、恐嚇性語(yǔ)言或針對身份群體的露骨攻擊，而高嚴重性?xún)热莸姆旨墳?6-7。

　　Azure AI 內容安全還使用多類(lèi)別篩選來(lái)識別和分類(lèi)多個(gè)關(guān)鍵域中的有害內容，包括仇恨、暴力、自殘和性?xún)热荨?/p>

　　“[當涉及到在線(xiàn)安全時(shí)]，考慮的不僅僅是人為生成的內容至關(guān)重要，尤其是在人工智能生成的內容變得普遍的情況下，”含寫(xiě)道。“確保人工智能生成的輸出中的準確性、可靠性和不存在有害或不適當的材料至關(guān)重要。內容安全不僅可以保護用戶(hù)免受錯誤信息和潛在傷害，還可以維護道德標準并建立對人工智能技術(shù)的信任。