Chagua Lugha

Mfumo wa TREE: Ufanisi wa Nishati Unaokubali Tokeni kwa Mitandao ya 6G Iliyojumuishwa na Akili Bandia

Uchambuzi wa mfumo wa TREE, kipimo kipya cha ufanisi wa nishati kwa mitandao ya 6G iliyojumuishwa na Akili Bandia kinachojumuisha mwingilio wa tokeni za miundo mikubwa kama manufaa ya mtandao.
aicomputetoken.com | PDF Size: 8.1 MB
Ukadiriaji: 4.5/5
Ukadiriaji Wako
Umekadiria waraka huu tayari
Kifuniko cha Waraka PDF - Mfumo wa TREE: Ufanisi wa Nishati Unaokubali Tokeni kwa Mitandao ya 6G Iliyojumuishwa na Akili Bandia

1. Utangulizi na Muhtasari

Ujumuishaji wa Akili Bandia (AI) katika mitandao ya simu ya Kizazi cha Sita (6G) unawakilisha mabadiliko makubwa kuelekea ujasusi ulioenea na uhusiano mkubwa. Kama ilivyoelezewa katika maono ya IMT-2030, 6G inalenga kusaidia programu zinazohitaji upana mkubwa wa bendi kama vile uhalisia ulioimarishwa, mifumo inayojitegemea, na uwekaji mkubwa wa IoT, huku AI ikitumika kama kiendeshi kikuu. Hata hivyo, muunganiko huu unaleta changamoto muhimu: viwango vya kawaida vya ufanisi wa nishati (EE), ambavyo kwa kawaida hufafanuliwa kama mwingilio wa mtandao kwa kila kitengo cha nishati ($EE = \frac{Mwingilio}{Nishati}$), havishiki manufaa na thamani ya kazi maalum za AI, kama zile zinazofanywa na Miundo Mikubwa ya Lugha (LLMs). Karatasi hii inatangaza Mfumo wa Ufanisi wa Nishati Unaokubali Tokeni (TREE), kipimo kipya kilichobuniwa kujaza pengo hili kwa kujumuisha mwingilio wa tokeni wa miundo mikubwa ya AI katika hesabu ya manufaa ya mfumo, na hivyo kutoa kipimo sahihi zaidi cha uendelevu wa nishati kwa mitandao ya 6G iliyojumuishwa na AI.

2. Mfumo wa TREE

Mfumo wa TREE unafafanua upya ufanisi wa nishati kwa enzi ya AI. Unapita zaidi ya bits za data tu na kuzingatia "tokeni" za kompyuta zinazochakatwa na miundo ya AI kama vibebaji vikuu vya manufaa katika mtandao wenye akili.

2.1 Ufafanuzi wa Kipimo cha Msingi

Kipimo cha msingi cha TREE kinaundwa kama uwiano wa manufaa halisi ya kazi ya AI (kipimwa kwa tokeni) kwa matumizi ya jumla ya nishati ya mfumo. Kinakubali kwamba si trafiki yote ya mtandao ina thamani sawa; kuchakata tokeni kwa huduma ya ukalimani wa lugha kwa wakati halisi ina manufaa na athari tofauti za nishati kuliko kutiririsha data ya video.

2.2 Kanuni za Ubunifu

Mfumo huu unachambua muundo wa mtandao kupitia mtazamo wa vipengele vitatu muhimu vya AI:

  • Nguvu ya Kompyuta: Rasilimali za kompyuta zilizosambazwa kwenye wingu, ukingoni, na vifaa vya mwisho.
  • Miundo ya AI: Muundo, ukubwa, na ufanisi wa miundo iliyowekwa (mfano, LLMs, miundo ya kuona).
  • Data: Kiasi, aina, na mtiririko wa data inayohitajika kwa mafunzo na utambuzi wa AI.
Mwingiliano kati ya vipengele hivi huamua TREE ya jumla ya mfumo.

3. Uchambuzi wa Kiufundi

3.1 Uundaji wa Kihisabati

Kipimo cha TREE kinachopendekezwa kinaweza kuonyeshwa kama: $$\text{TREE} = \frac{\sum_{i \in \mathcal{A}} w_i \cdot U_i(T_i) + \sum_{j \in \mathcal{D}} w_j \cdot R_j}{P_{\text{jumla}}}$$ Ambapo:

  • $\mathcal{A}$ ni seti ya huduma za AI na $\mathcal{D}$ ni seti ya huduma za kawaida za data.
  • $U_i(T_i)$ ni kitendakazi cha manufaa kwa huduma ya AI $i$, kinachotegemea mwingilio wake wa tokeni $T_i$.
  • $R_j$ ni kiwango cha data kwa huduma ya kawaida $j$.
  • $w_i, w_j$ ni vipengele vya uzani vinavyoonyesha kipaumbele cha huduma.
  • $P_{\text{jumla}}$ ni matumizi ya jumla ya nguvu ya mfumo.
Uundaji huu unajumuisha wazi manufaa ya kazi ya AI, ukipita zaidi ya dhana ya kawaida ya bit-kwa-joule.

3.2 Muundo wa Mfumo

TREE imebuniwa kwa muundo wa wingu-ukingo-mwisho. Mambo muhimu yanayozingatiwa ni pamoja na:

  • Mgawanyiko wa Muundo na Upakiaji: Kugawanya kwa nguvu utekelezaji wa muundo wa AI kati ya ukingo na wingu kulingana na vikwazo vya nishati na ucheleweshaji ili kuongeza TREE kwa kiwango cha juu.
  • Ujifunzaji wa Shirikishi: Kuwezesha mafunzo ya AI yaliyosambazwa huku ukipunguza nishati ya usafirishaji wa data, ikiafikia moja kwa moja kwenye kipunguzi cha TREE.
  • Ubanifu wa Muundo Unaobadilika: Kutumia mbinu kama vile Ubadilishaji wa Cheo cha Chini (LoRA) kupunguza gharama ya nishati ya kompyuta ya kurekebisha miundo kwa usahihi ukingoni.

4. Matokeo ya Majaribio na Misaala ya Kesi

Karatasi hii inawasilisha misaala ya kesi inayothibitisha uwezo wa kipekee wa TREE. Katika hali mchanganyiko za trafiki zinazochanganya kazi za utambuzi wa AI (mfano, uchambuzi wa video kwa wakati halisi) na mtiririko wa kawaida wa data (mfano, upakuaji wa faili), viwango vya kawaida vya EE vilionekana kuwa vya kutosha. Havikuweza kufunua kutofautiana kwa nishati-huduma—hali ambapo kiasi kidogo cha trafiki ya AI yenye thamani kubwa hutumia nishati isiyolinganishwa ikilinganishwa na trafiki kubwa ya data yenye thamani ndogo. TREE ilifanikiwa kupima kiasi hiki cha kutofautiana, na kuwapa waendeshaji wa mtandao picha wazi zaidi ya wapi nishati inatumiwa dhidi ya thamani inayozalishwa. Kwa mfano, hali fulani inaweza kuonyesha kuwa kuhudumia tokeni 1000 kwa msaidizi wa msingi wa LLM hutumia nishati sawa na kutiririsha video ya 1GB, lakini hutoa manufaa tofauti kabisa, tofauti ambayo ni TREE tu ndiyo inaweza kuikamata.

Ufahamu Muhimu

  • TREE inafunua ufanisi uliofichika katika mitandao inayohudumia trafiki mchanganyiko ya AI/data.
  • Mwingilio wa tokeni ni kipimo cha manufaa chenye maana zaidi kuliko kiwango cha bits ghafi kwa huduma za AI.
  • Ugawaji bora wa rasilimali kwa TREE unaweza kutofautiana sana na uboreshaji wa kawaida wa EE.

5. Mfano wa Mfumo wa Uchambuzi

Hali: Kituo cha msingi cha 6G kinahudumia huduma mbili zinazoendelea wakati mmoja: (1) huduma ya utambuzi wa LLM ya msingi wa ukingo kwa usindikaji wa maswali ya jiji lenye akili, na (2) upakiaji wa data ya sensor ya IoT ya nyuma.

Hatua za Uchambuzi wa TREE:

  1. Fafanua Manufaa: Weka manufaa $U_1 = \alpha \cdot T_1$ (tokeni zilizochakatwa) kwa huduma ya LLM na $U_2 = \beta \cdot R_2$ (bits zilizopakiwa) kwa huduma ya IoT. Uzani $\alpha > \beta$ unaonyesha thamani ya juu kwa kila kitengo cha huduma ya AI.
  2. Pima Nguvu: Fuatilia nguvu ya jumla $P_{jumla}$ inayotumiwa na kompyuta (kwa LLM) na mawasiliano (kwa zote mbili).
  3. Hesabu na Linganisha: Hesabu TREE = $(\alpha T_1 + \beta R_2) / P_{jumla}$. Linganisha hii na EE ya kawaida = $(R_1 + R_2)/P_{jumla}$. Uchambuzi utaonyesha uwezekano mkubwa kwamba kugawa rasilimali zaidi kwa huduma ya LLM huiboresha TREE zaidi kuliko EE ya kawaida, na hivyo kuongoza ratiba ya rasilimali yenye akili zaidi.
Mfumo huu unawawezesha waendeshaji kuhamia kutoka "kupunguza nishati kwa kila bit" hadi "kuongeza thamani (tokeni + bits) kwa kila joule."

6. Uchambuzi Muhimu na Ufahamu wa Wataalamu

Ufahamu wa Msingi: Karatasi ya TREE haipendekezi kipimo kipya tu; inapinga kimsingi hesabu za kiuchumi na uhandisi za mitandao ya baadaye. Inatambua kwa usahihi kwamba dhana ya thamani ya 6G itatawaliwa na AI-kama-Huduma, sio tu mabomba ya kasi zaidi. Kuweka ufanisi kulingana na bits ni kama kupima thamani ya maktaba kwa uzito wa vitabu vyake—hupuuza kabisa lengo. Mabadiliko ya kwenda kwenye tokeni ni hatua muhimu, ingawa ya mwanzo, kuelekea mtandao unaotambua manufaa.

Mtiririko wa Mantiki: Hoja ni sahihi: 1) AI ndiyo msingi wa thamani ya 6G. 2) Thamani ya AI iko katika tokeni/kazi, sio bits. 3) Kwa hivyo, viwango vya zamani (bits/Joule) vimepitwa na wakati. 4) Kwa hivyo, tunahitaji kipimo kipya (tokeni/Joule). 5) Kipimo hiki kipya (TREE) kinafunua matatizo mapya ya uboreshaji na mizania. Mantiki hii ni ya kulazimisha na inashughulikia pengo kubwa la upofu katika utafiti wa sasa wa 6G, ambao mara nyingi huchukulia AI kama mzigo mwingine tu badala ya kiendeshi cha thamani.

Nguvu na Kasoro: Nguvu kuu ni mtazamo wa dhana. Waandishi wanaangalia zaidi ya vizuizi vya kiufundi vya haraka vya 6G hadi sababu yake ya kuwepo ya mwisho. Kasoro, kama ilivyo kwa kipimo chochote cha kianzishi, ni uwezekano wa kupima kivitendo. Tunawezaje kuweka kiwango cha kitendakazi cha manufaa $U_i(T_i)$? Tokeni ya GPT-4 si sawa na tokeni ya kibadilishaji cha kuona nyepesi. Kufafanua na kukubaliana juu ya uzani huu wa manufaa kati ya wauzaji na huduma itakuwa shida ya kisiasa na kiufundi, ikikumbusha changamoto za kupima kiwango cha Uzoefu (QoE). Zaidi ya hayo, mfumo huu kwa sasa unategemea sana utambuzi; gharama kubwa ya nishati ya mafunzo ya AI yaliyosambazwa katika mitandao, wasiwasi ulioangaziwa na tafiti kama zile kutoka kwa mpango wa Athari ya CO2 ya Kujifunza kwa Mashine, inahitaji kujumuishwa zaidi katika hesabu ya TREE.

Ufahamu Unaoweza Kutekelezwa: Kwa waendeshaji wa mtandao na wauzaji wa vifaa, hitimisho ni la haraka: anza kuweka vifaa katika mitandao yako na majukwaa ya AI kupima mwingilio wa tokeni na kuhusisha na matumizi ya nishati kwa kiwango cha kina. Miradi ya majaribio inapaswa kujaribu algoriti za ratiba zinazoendeshwa na TREE. Kwa vyombo vya viwango (3GPP, ITU), kazi inapaswa kuanza sasa kwenye kufafanua madarasa ya huduma yenye msingi wa tokeni na uwasilishaji wa manufaa, kama vile madarasa ya QoS yalivyofafanuliwa kwa 4G/5G. Kupuuza hili na kushikilia EE ya kawaida ni njia ya hakika ya kujenga mitandao yenye ufanisi wa nishati lakini isiyo na ufanisi wa kiuchumi kwa enzi ya AI.

7. Matumizi ya Baadaye na Mwelekeo

Mfumo wa TREE unafungua njia kwa matumizi kadhaa ya hali ya juu na mwelekeo wa utafiti:

  • Mgawanyiko wa Mtandao Unaobadilika: Kuunda vipande vya mtandao vilivyoboreshwa kwa AI vilivyo na viwango vya TREE vilivyohakikishiwa kwa huduma za hali ya juu za AI, tofauti na vipande vya data vya juhudi bora.
  • Soko la Kijani la AI: Kuwezesha biashara inayotambua nishati ya rasilimali za kompyuta na utambuzi ukingoni mwa mtandao, ambapo huduma hutoa zabuni kulingana na mahitaji yao ya manufaa yenye msingi wa tokeni.
  • Ubunifu wa Pamoja wa Mawasiliano na Hesabu: Kubuni pamoja itifaki za safu ya kimwili, miundo ya mtandao, na miundo ya muundo wa AI kutoka mwanzo ili kuongeza TREE kwa kiwango cha juu, ukipita zaidi ya dhana ya sasa ya kurekebisha AI kwa mitandao iliyopo.
  • Tathmini ya Mzunguko wa Maisha: Kupanua TREE kufunika mzunguko kamili wa maisha ya huduma za AI katika mtandao, ikijumuisha gharama ya nishati ya mafunzo ya muundo, visasisho, na usimamizi wa mfereji wa data, na kujumuisha dhana kutoka kwa tafiti za uchambuzi wa mzunguko wa maisha.
  • Kuweka Viwango vya Manufaa ya Tokeni: Mwelekeo mkuu wa baadaye ni ukuzaji wa viwango vya tasnia nzima kwa kupima "manufaa" ya kazi tofauti za AI, sawa na namna ambavyo vidhibiti vya video hufafanua viwango vya ubora.

8. Marejeo

  1. ITU-R. “Mfumo na malengo ya jumla ya maendeleo ya baadaye ya IMT kwa 2030 na zaidi.” ITU-R M.[IMT-2030.FRAMEWORK], 2023.
  2. Zhou, Z., Chen, X., Li, E., Zeng, L., Luo, K., & Zhang, J. (2019). Edge intelligence: Paving the last mile of artificial intelligence with edge computing. Proceedings of the IEEE, 107(8), 1738-1762.
  3. Hu, E. J., et al. (2021). LoRA: Low-Rank Adaptation of Large Language Models. arXiv preprint arXiv:2106.09685.
  4. Lacoste, A., Luccioni, A., Schmidt, V., & Dandres, T. (2019). Quantifying the Carbon Emissions of Machine Learning. arXiv preprint arXiv:1910.09700.
  5. Wang, X., Han, Y., Leung, V. C., Niyato, D., Yan, X., & Chen, X. (2020). Convergence of edge computing and deep learning: A comprehensive survey. IEEE Communications Surveys & Tutorials, 22(2), 869-904.
  6. Zhu, J. Y., Park, T., Isola, P., & Efros, A. A. (2017). Unpaired image-to-image translation using cycle-consistent adversarial networks. In Proceedings of the IEEE international conference on computer vision (pp. 2223-2232). (Iliyotajwa kama mfano wa kazi ya AI yenye mzito wa kompyuta ambayo gharama yake ya nishati katika muktadha wa mtandao ingevaliwa vyema zaidi na TREE).