MediaTek samarbetar med Alibaba Cloud för mobila chips för stora modeller

Källa:www.ichunt.com

Enligt Sci-Tech Innovation Board Daily har MediaTek, en tillverkare av smarttelefonchips, framgångsrikt distribuerat stora modeller med 1,8 miljarder och 4 miljarder parametrar på sina flaggskeppschips som Dimensity 9300, och uppnått djup anpassning av den stora modellen på mobila chips och gör det möjligt för Tongyi Qianwen att köra flera omgångar av AI-dialog även i offline-situationer. I framtiden kommer de två parterna också att anpassa fler stora modeller av olika storlekar, inklusive en med 7 miljarder parametrar, baserad på Dimensity-chippet.

Alibaba Cloud uppgav att det kommer att arbeta nära MediaTek för att tillhandahålla stora modelllösningar på slutsidan till globala mobiltelefontillverkare.

För närvarande är MediaTek det halvledarföretag som har den högsta leveransvolymen av smartphonechips globalt. Enligt de senaste uppgifterna från Canalys levererade den över 117 miljoner enheter under fjärde kvartalet 2023, rankad först, följt av Apple med 78 miljoner leveranser och Qualcomm med 69 miljoner leveranser. Tongyi Qianwen är en grundläggande stor modell utvecklad av Alibaba Cloud. Hittills har det lanserat versioner med upp till 100 miljarder parametrar och versioner med öppen källkod med 72 miljarder, 14 miljarder, 7 miljarder, 4 miljarder, 1,8 miljarder och 500 miljoner parametrar, såväl som multimodala stora modeller som t.ex. visuell förståelsemodell Qwen-VL och ljudstormodellen Qwen-Audio.

Under MWC2024 visade MediaTek upp olika applikationer för artificiell intelligens, inklusive Dimensity 9300 och 8300 chips. Det är underförstått att Dimensity 9300-chippet redan har stödt tillämpningen av Meta Llama 2:s 7-miljarder-parameter stora modell utomlands, och det har implementerats på vivo X100-seriens telefoner i Kina med en 7-miljarder-parameter stor språkmodell på ändsidan, och har även framgångsrikt kört en modell med 13 miljarder parametrar i en experimentmiljö på ändsidan.

Samarbetet mellan MediaTek och Alibaba Cloud markerar första gången som Tongyi stora modell har uppnått hård- och mjukvaruanpassning på chipnivå. Xu Dong, affärschef för Alibabas Tongyi Lab, förklarade, "Ändsides AI är ett av de viktiga scenarierna för tillämpning av stora modeller, men det står inför många utmaningar som svårigheter med hård- och mjukvaruanpassning och ofullständiga utvecklingsmiljöer. Alibaba Cloud och MediaTek har övervunnit en rad tekniska och tekniska utmaningar relaterade till underliggande anpassning och utveckling på översta nivå, och verkligen integrerat den stora modellen i mobilen chip och utforskar en ny implementeringsmodell av Model-on-Chip för end-side AI."

Förutom MediaTek, främjar Qualcomm också aktivt implementeringen av stora modeller på mobila enheter. Den 18 mars tillkännagav Qualcomm lanseringen av tredje generationens Snapdragon 8s mobilplattform, som stöder stora språkmodeller med upp till 10 miljarder parametrar och kan även stödja multimodala generativa AI-modeller, inklusive Baichuan-7B, Gemini Nano, Llama 2 , och Zhipu ChatGLM från företag som Baidu Xiriver, Google och META. Det rapporteras att Xiaomi Civi 4 Pro kommer att vara den första som utrustas med Snapdragon 8s mobilplattform.

En industrianalytiker för konsumentelektronik konstaterade att samarbetet mellan Alibaba Cloud och MediaTek innebär att inhemska mobiltelefontillverkare nu har ett alternativ till Baidu.

Enligt reporterns förståelse har Honor och Samsung tidigare meddelat samarbeten med Baidu Wenxin Yiyan. Till exempel, Samsungs senaste flaggskeppstelefon, Galaxy S24-serien, integrerar flera funktioner hos den stora Wenxin-modellen, inklusive samtal, översättning och smart sammanfattning. Dessutom avslöjade en källa att Apple för närvarande är i kontakt med Baidu i hopp om att kunna använda Baidus artificiella intelligensteknologi, och preliminära samtal har redan ägt rum mellan de två parterna.

Lin Dahua, en ledande forskare vid Shanghai Artificial Intelligence Laboratory, konstaterade att med den exponentiella tillväxten av molnbaserade stora modeller är slutsidan på väg att gå in i en gyllene tillväxtperiod. Cloud-end-samarbete kommer att bli en viktig trend i framtiden, med cloud-side computing som etablerar taket och end-side computing som stödjer storskalig användning av användare.

Enligt förutsägelser från konsultföretaget IDC kommer leveransvolymen av smartphones på den kinesiska marknaden att nå 277 miljoner enheter 2024, med en tillväxttakt på 2,3 % jämfört med föregående år. Bland dem kommer leveransvolymen för AI-telefoner att nå 36,6 miljoner, med en tillväxttakt från år till år som överstiger tre siffror. Användningen av stora AI-modeller på mobiltelefoner kommer att bli mer utbredd.