MediaTek sodeluje z Alibaba Cloud za velike modele mobilnih čipov

Vir:www.ichunt.com

Po poročanju Sci-Tech Innovation Board Daily je MediaTek, proizvajalec čipov za pametne telefone, uspešno uvedel velike modele z 1,8 milijarde in 4 milijarde parametrov na svojih vodilnih čipih, kot je Dimensity 9300, in dosegel globoko prilagoditev velikega modela na mobilnih čipih in Tongyi Qianwen omogoča izvajanje več krogov dialoga z umetno inteligenco tudi v situacijah brez povezave. V prihodnosti bosta strani prilagodili tudi več velikih modelov različnih velikosti, vključno s tistim s 7 milijardami parametrov, ki temelji na čipu Dimensity.

Alibaba Cloud je izjavil, da bo tesno sodeloval z MediaTekom, da bi globalnim proizvajalcem mobilnih telefonov zagotovil končne rešitve velikih modelov.

Trenutno je MediaTek polprevodniško podjetje z največjim obsegom pošiljk čipov za pametne telefone na svetu. Po zadnjih podatkih Canalysa je v četrtem četrtletju 2023 poslal več kot 117 milijonov enot, s čimer je zasedel prvo mesto, sledita mu Apple z 78 milijoni pošiljk in Qualcomm z 69 milijoni pošiljk. Tongyi Qianwen je temeljni velik model, ki ga je razvil Alibaba Cloud. Doslej je lansiral različice z do 100 milijardami parametrov in odprtokodne različice z 72 milijardami, 14 milijardami, 7 milijardami, 4 milijardami, 1,8 milijarde in 500 milijoni parametrov, kot tudi večmodalne velike modele, kot je model za vizualno razumevanje Qwen-VL in zvočni veliki model Qwen-Audio.

Med MWC2024 je MediaTek predstavil različne aplikacije umetne inteligence, vključno s čipoma Dimensity 9300 in 8300. Razume se, da je čip Dimensity 9300 že podpiral uporabo velikega modela Meta Llama 2 s 7 milijardami parametrov v tujini in je bil implementiran v telefone serije vivo X100 na Kitajskem z velikim jezikovnim modelom s 7 milijardami parametrov na končni strani, prav tako pa je uspešno zagnal model s 13 milijardami parametrov v eksperimentalnem okolju končne strani.

Sodelovanje med MediaTekom in Alibaba Cloud je prvič, da je velik model Tongyi dosegel prilagoditev strojne in programske opreme na ravni čipov. Xu Dong, poslovni vodja Alibabinega laboratorija Tongyi, je pojasnil: »Umetna inteligenca na končni strani je eden od pomembnih scenarijev za uporabo velikih modelov, vendar se sooča s številnimi izzivi, kot so težave pri prilagajanju strojne in programske opreme ter nepopolna razvojna okolja. Alibaba Cloud in MediaTek sta premagala vrsto tehničnih in inženirskih izzivov, povezanih z osnovno prilagoditvijo in razvojem na višji ravni, ter resnično integrirala velike model v mobilni čip in raziskovanje novega modela uvajanja modela na čipu za umetno inteligenco na končni strani."

Poleg MediaTeka tudi Qualcomm aktivno spodbuja implementacijo velikih modelov na mobilne naprave. 18. marca je Qualcomm napovedal lansiranje tretje generacije mobilne platforme Snapdragon 8s, ki podpira velike jezikovne modele z do 10 milijardami parametrov in lahko podpira tudi večmodalne generativne modele AI, vključno z Baichuan-7B, Gemini Nano, Llama 2 , in Zhipu ChatGLM podjetij, kot so Baidu Xiriver, Google in META. Poroča se, da bo Xiaomi Civi 4 Pro prvi opremljen z mobilno platformo Snapdragon 8s.

Analitik industrije zabavne elektronike je izjavil, da sodelovanje med Alibaba Cloud in MediaTek pomeni, da imajo domači proizvajalci mobilnih telefonov zdaj alternativo Baiduju.

Glede na razumevanje novinarja sta Honor in Samsung predhodno napovedala sodelovanje z Baidu Wenxin Yiyan. Na primer, Samsungov najnovejši vodilni telefon, serija Galaxy S24, združuje več zmogljivosti velikega modela Wenxin, vključno s klicanjem, prevajanjem in pametnim povzemanjem. Poleg tega je vir razkril, da je Apple trenutno v stiku z Baidujem, v upanju, da bo uporabil Baidujevo tehnologijo umetne inteligence, med stranema pa so že potekali predhodni pogovori.

Lin Dahua, vodilni znanstvenik v Laboratoriju za umetno inteligenco v Šanghaju, je izjavil, da bo končna stran z eksponentno rastjo velikih modelov v oblaku vstopila v zlato obdobje rasti. Sodelovanje na koncu oblaka bo v prihodnosti postalo pomemben trend, pri čemer bo računalništvo v oblaku vzpostavilo zgornjo mejo, računalništvo na koncu pa bo podpiralo obsežno sprejemanje uporabnikov.

Po napovedih svetovalnega podjetja IDC bo obseg pošiljk pametnih telefonov na kitajskem trgu leta 2024 dosegel 277 milijonov enot, z medletno stopnjo rasti 2,3 %. Med njimi bo obseg pošiljk telefonov z umetno inteligenco dosegel 36,6 milijona, pri čemer bo medletna stopnja rasti presegla trimestno številko. Uporaba velikih modelov AI na mobilnih telefonih bo vse bolj razširjena.