AI趨勢周報第104期:更輕更小!華為發表TinyBERT準確度不輸Google BERT

華為發表更輕更小的自然語言處理預訓練模型TinyBERT,比Google BERT小7倍,推論速度卻快上9.4倍。TinyBERT採用知識提煉(KD)和師生框架來改善Google BERT,利用小型學生網路來模仿大型老師網路行為,而KD則著重於Transformer提煉和兩階段學習框架,在大型文本語料庫和下游微調過的TinyBERT之間,增加一個通用TinyBERT。

2019-10-11

白首太玄經

面對世代的傳承與技術的更迭,應採取更開放的心態,不讓過去有限的經驗拘束我們未來發展的可能性,也許就有機會克服更多過去無法處理的困難

2019-10-10

10個QA快速了解自監督式學習

為何CNN之父想研究自監督式學習,他最主要的動機是,要找到讓機器學習更像人類或動物學習的方法,專注於找到一套原則,讓機器變得更聰明

2019-10-10

【卷積神經網路之父Yann LeCun如何走出二次深度學習寒冬?】30年前過氣老論文,為何能催生革命全球的CNN框架

機器學習的起源可以追溯到1950年代,發展至今已超過一甲子,但期間也挺過兩次寒冬,才有現在蓬勃發展的盛況。不過,究竟曾讓大多研究者不看好的原因是什麼?Yann LeCun剖析其中關鍵

2019-10-10

癱瘓者有望靠AI技術重新站起來!布朗大學與英特爾合作要以AI接通中斷的神經訊號

研究人員透過紀錄脊髓損傷志願者的脊髓運動和感覺訊號,以人工神經網路學習傳遞神經命令的方法

2019-10-04

AI趨勢周報第103期:松果購物用深度學習抓緊隱式回饋,推薦專區交易額翻倍

電商松果購物用AI來改善商品搜尋和推薦兩大應用,首先透過機器學習排序和數十種模型來優化商品搜尋的排序,同時利用傳統矩陣分解和深度學習來建立個人化推薦商品清單,更進一步找出用戶的隱式回饋。就成果來看,推薦清單中的購買召回率達3、4成,推薦專區交易額也成長2倍。

?

?
?
?
?

2019-10-04

IDC:企業數位轉型2.0,要選對使用案例、擁抱新型態工作環境

國際市場調查機構IDC建議,要實踐數位轉型2.0,企業可遵循Create(創造商業價值)、Scale(擴大數位創新應用)、Embrace(擁抱未來工作模式)三大原則,可從選對使用案例(Use case)開始,再善用API來強化內外部的連結性、擴大應用規模,同時也應考量人機協作的工作模式,以及虛擬工作環境的應用。

2019-10-04

【儲存管理平臺:NetApp Active IQ】結合雲端平臺與AI技術,降低用戶環境管理成本

NetApp產品統一管理平臺,提供集中監控、自動診斷、儲存資源分析、預測與升級建議

2019-10-03

經濟部工業局推AI Hub一站式服務,要當AI產業化推手

AI Hub整合產業發展AI所需的服務,包括顧問諮詢、解決方案、技術、應用實例到AI演算法驗證等,希望加速國內產業AI化、AI產業化。

2019-10-02

Google更新邊緣裝置機器學習服務AutoML Vision Edge,增加物體偵測功能

四月Google發布AutoML Vision Edge服務時,只能進行圖像分類,而現在多了偵測物體的能力

2019-10-02

碩網用SmartBERT模型打造企業級AI助理,整合微軟Teams要成為企業內部IT和ERP小幫手

碩網資訊聯合微軟共同發布一套AI助理解決方案SmartWork,由SmartBERT模型和1萬多筆資料訓練而成,要提供整合式Chabot服務,來解決企業內部Office文書處理問題、IT疑問、請假簽核系統,以及會議預約和訂單處理等事項,永豐銀行也已率先導入。

2019-10-02

GitHub發布CodeSearchNet語料庫以及挑戰賽,推動自然語言程式碼搜尋技術發展

GitHub為自然語言程式碼搜尋建立了基準模型,同時提供CodeSearchNet挑戰賽排行榜,讓研究人員競爭語義程式碼搜尋技術成果

2019-10-01