我們正處于大數(shù)據(jù)和數(shù)字化轉(zhuǎn)型的時(shí)代。數(shù)據(jù)無處不在,運(yùn)用數(shù)據(jù)驅(qū)動(dòng)的思想和策略在實(shí)踐中逐漸成為共識(shí),數(shù)據(jù)的價(jià)值已在科學(xué)研究和工商業(yè)的不同領(lǐng)域得到充分展現(xiàn)。然而,如果無法從數(shù)據(jù)中提取出知識(shí)和信息并加以有效利用,數(shù)據(jù)本身并不能驅(qū)動(dòng)和引領(lǐng)數(shù)字化轉(zhuǎn)型取得成功。如何讓數(shù)據(jù)發(fā)揮它最大的價(jià)值?“數(shù)據(jù)智能”(Data Intelligence) 應(yīng)運(yùn)而生。
然而,技術(shù)的不斷發(fā)展終究要服務(wù)于現(xiàn)實(shí)生活,海量數(shù)據(jù)背后那些未被挖掘的價(jià)值,需要企業(yè)不斷挖掘并樂于分享才能真正促進(jìn)行業(yè)轉(zhuǎn)型,才能賦能各種應(yīng)用場景。日前,由MobTech MobAI團(tuán)隊(duì)基于Spark自研的因子分解機(jī)(Factorization Machine,簡稱FM)模型已得到Spark merge,Spark使用者只要更新Spark后,即可使用該模型。
Apache Spark是一個(gè)互聯(lián)網(wǎng)行業(yè)普遍使用的開源大數(shù)據(jù)分布式編程框架,借助Catalyst、新的混排方法、新的網(wǎng)絡(luò)模塊等,獲得了超越MapReduce框架的性能,也提供了豐富的API接口。截至2015年年底,Spark是所有大數(shù)據(jù)項(xiàng)目中最活躍的開源項(xiàng)目。如今,許多公司使用Spark,包括亞馬遜、Autodesk、Groupon、TripAdvisor,百度、阿里巴巴和騰訊、微軟等國內(nèi)外一流互聯(lián)網(wǎng)公司都在使用。
而FM模型自從2010年被提出后,由于易于整合交叉特征、能夠有效解決高維數(shù)據(jù)特征組合的稀疏問題且具有較高的預(yù)測精度和計(jì)算效率,在推薦系統(tǒng)及廣告CTR預(yù)估等領(lǐng)域得到了大規(guī)模使用,國內(nèi)很多大廠(如美團(tuán)、頭條等)都用它來做推薦及CTR預(yù)估。在數(shù)據(jù)稀疏的情況(如CTR預(yù)測)下,F(xiàn)M模型展現(xiàn)出非常高的預(yù)測質(zhì)量,被提出后迅速成為學(xué)術(shù)界和行業(yè)研究和應(yīng)用的熱點(diǎn)。
比如在某銀行短信投放的項(xiàng)目中,一開始使用對于計(jì)算廣告等有天然優(yōu)勢的邏輯回歸模型,點(diǎn)擊率為1.18%。但是,邏輯回歸雖然適合用來學(xué)習(xí)需要大規(guī)模訓(xùn)練的樣本和特征,同時(shí)也有著不容忽視的缺點(diǎn):1.模型表達(dá)能力弱,需要大量的特征組合提高特征的表達(dá);2.模型簡單,容易欠擬合。所以在評估后,MobTech選擇了使用FM模型,成功幫助用戶的點(diǎn)擊率增長至3.62%,帶來了更多轉(zhuǎn)化。
作為全球領(lǐng)先的數(shù)據(jù)智能科技平臺(tái),MobTech結(jié)合大規(guī)模數(shù)據(jù)處理、數(shù)據(jù)挖掘、機(jī)器學(xué)習(xí)、可視化等多種技術(shù),從數(shù)據(jù)中提煉、發(fā)掘、獲取有揭示性和可操作性的信息,為企業(yè)和品牌在基于數(shù)據(jù)制定決策或執(zhí)行任務(wù)時(shí)提供有效的智能支持。自研FM模型并得到Spark merge是MobTech助力各企業(yè)探求數(shù)據(jù)空間中未知世界,在不同領(lǐng)域里尋找巨大機(jī)會(huì)的見證,也彰顯了MobTech在推動(dòng)行業(yè)重塑商業(yè)分析和商業(yè)智能領(lǐng)域的決心。
新一輪技術(shù)革命帶來的商業(yè)演進(jìn)把我們帶進(jìn)“ABC”時(shí)代,即人工智能(AI)、大數(shù)據(jù)(Big Data)和云計(jì)算(Cloud Computing)。而根據(jù)Gartner的調(diào)研,一種新的
“增強(qiáng)分析”的分析模式正在顛覆舊有方式,預(yù)計(jì)在幾年內(nèi)將成為商業(yè)智能系統(tǒng)采購的主導(dǎo)驅(qū)動(dòng)力。這種“增強(qiáng)分析”模式正是由數(shù)據(jù)智能技術(shù)賦能,提供了自然語言查詢和敘述、增強(qiáng)的數(shù)據(jù)準(zhǔn)備、自動(dòng)的高級分析、基于可視化的數(shù)據(jù)探索等多種核心能力。
未來,MobTech將會(huì)潛心數(shù)據(jù)智能研究,讓產(chǎn)品更加契合當(dāng)今大數(shù)據(jù)時(shí)代各領(lǐng)域、各行業(yè)從數(shù)據(jù)中挖掘、實(shí)現(xiàn)價(jià)值,進(jìn)行數(shù)字化轉(zhuǎn)型的迫切需要。并不斷將成果與眾企業(yè)分享,一同實(shí)現(xiàn)數(shù)據(jù)智能在更多領(lǐng)域的落地和發(fā)展,不斷挑戰(zhàn)新應(yīng)用和新場景,進(jìn)一步激發(fā)和驅(qū)動(dòng)數(shù)字智能研究保持強(qiáng)勁的發(fā)展勢頭,邁向更高的層次。