NVIDIA හි ‘Nemotron 3’ පැමිණීමත් සමඟ Edge AI තාක්ෂණයේ නව පෙරළියක්

Tech වෘත්තිකයන් දැනගත යුතු දේ

NVIDIA සමාගම සිය නවතම "Nemotron 3" මාදිලිය (Nano, Super, Ultra) හඳුන්වා දීමත් සමඟ කාර්මික AI ක්ෂේත්‍රයේ විශාල වෙනසක් සනිටුහන් කර තිබේ. මෙය හුදෙක් තාක්ෂණික අලුත් කිරීමක් පමණක් නොව, කර්මාන්ත ක්ෂේත්‍රයේ මූලික වෙනස්කමක් ලෙස හැඳින්විය හැකිය.

වසර ගණනාවක් පුරා "AI විප්ලවය" බැඳී තිබුණේ Cloud තාක්ෂණය සමඟයි. එනම් අපගේ විධානයන් ක්‍රියාත්මක වූයේ Virginia හෝ Dublin වැනි ඈත ප්‍රදේශවල පිහිටි දැවැන්ත Data Centers හරහායි. නමුත් Nemotron 3 සමඟ NVIDIA මෙම බැඳීම බිඳ දමා තිබේ. ඔවුන් "Agentic AI" තාක්ෂණය කෙලින්ම Edge එකට, එනම් දත්ත ජනනය වන තැනටම ගෙන එමින් සිටී. මෙය එක්සත් රාජධානියේ SME (සුළු හා මධ්‍ය පරිමාණ ව්‍යාපාර) සහ ඉංජිනේරු සමාගම්වලට, විශේෂයෙන්ම නවීන කාර්මිකකරණය වෙත යොමු වීමට බලාපොරොත්තු වන අපගේ ප්‍රජාවේ ව්‍යාපාරවලට විශාල උපායමාර්ගික වාසියක් සපයයි.

"Nano" මාදිලිය "Ultra" ට වඩා වැදගත් වන්නේ ඇයි?

බොහෝ සිරස්තලවල 500B parameters සහිත දැවැන්ත 'Ultra' මාදිලිය ගැන කතා කළත්, ව්‍යාපාරිකයන්ට සහ ඉංජිනේරුවන්ට ක්ෂණිකව ප්‍රයෝජනවත් වන සැබෑ සම්පත වන්නේ Nemotron 3 Nano මාදිලියයි.

• වේගය තීරණාත්මක සාධකයකි: Midlands හි ලොජිස්ටික් මධ්‍යස්ථාන හෝ උතුරේ නිෂ්පාදන කර්මාන්තශාලා ගැන සිතන්න. රොබෝ අතක් නැවැත්විය යුතුද යන්න තීරණය කිරීමට Cloud Server එකක් හරහා මිලි තත්පර 200ක් බලා සිටීම ප්‍රායෝගික නැත. Nano මාදිලිය (Mixture-of-Experts තාක්ෂණය නිසා ක්‍රියාකාරී වන්නේ පරාමිතීන් බිලියන 3ක් පමණයි) මගින් මිලි තත්පරයටත් අඩු කාලයකදී (Sub-millisecond) තීරණ ගැනීමේ හැකියාව ලබා දෙයි.
• Mamba තාක්ෂණයේ වාසිය: NVIDIA මෙහිදී Mamba-Transformer හයිබ්‍රිඩ් තාක්ෂණයක් භාවිතා කරයි. සාමාන්‍ය Transformers මෙන් නොව, සංවාදය දිගු වන විට Mamba වේගය අඩාල කරගන්නේ නැත. මෙහි ඇති 1 Million Token Context Window එක නිසා, යන්ත්‍රයකට සම්පූර්ණ සතියකම දත්ත මතක තබා ගනිමින් ක්ෂණිකව තර්කානුකූල තීරණ ගත හැකිය.
• දත්ත ස්වෛරීත්වය (Data Sovereignty): Brexit සහ GDPR නීති රෙගුලාසි හමුවේ මෙය UK ව්‍යාපාරවලට අතිශයින් වැදගත් වේ. සංවේදී දත්ත US-based clouds වෙත යැවීම වෙනුවට, දේශීයව NVIDIA දෘඩාංග (Hardware) මතම "Sovereign AI" ධාවනය කිරීමෙන් දත්ත ආරක්ෂාව සහ නීතිමය අනුකූලතාවය සහතික කරගත හැකිය.

වෘත්තීය ඵලදායිතාවයට ඇති බලපෑම (Tech Diaspora)

මෘදුකාංග සංවර්ධනය සහ පද්ධති නිර්මාණය (Systems Architecture) වැනි ක්ෂේත්‍රවල නියුතු ශ්‍රී ලාංකික වෘත්තිකයන්ට මෙය නව වෘත්තීය මාවතක් විවෘත කරයි: The Edge AI Integrator.

• "Agentic" විප්ලවය: පෙර මාදිලි මෙන් හුදෙක් "Chat" කිරීමෙන් ඔබ්බට ගොස්, Nemotron 3 නිර්මාණය කර ඇත්තේ ක්‍රියාත්මක වීමටයි (Agentic). ඊට කේත දෝෂ නිවැරදි කිරීමට (Debug), කාර්ය ප්‍රවාහයන් හැසිරවීමට (Route Workflows) සහ භෞතික දෘඩාංග පාලනය කිරීමට හැකියාව ඇත.
• ක්ෂණික භාවිතය: මෘදුකාංග ඉංජිනේරුවෙකුට දැන් AWS හෝ Azure සඳහා විශාල මුදලක් වැය නොකර, RTX 4090 වැනි දේශීය වැඩපොළක (Workstation) "Nano" ඒජන්තයෙකු ක්‍රියාත්මක කළ හැකිය. මෙය මාසික Cloud බිල්පත් (OPEX) වෙනුවට එක් වරක් දෘඩාංග මිලදී ගැනීමේ (CAPEX) ආකෘතියට මාරු වීමකි.

නොකියවෙන කතාව: සැඟවුණු අභියෝග මොනවාද?

"Open Models" ලෙස හැඳින්වුවද, මෙහි ගැඹුරු යථාර්ථයක් ඇත.

1. NVIDIA "Walled Garden" උගුල: මෙම මාදිලි "Open" යැයි පැවසුවද, ඒවා දැඩි ලෙස ප්‍රශස්තකරණය (Optimized) කර ඇත්තේ NVIDIA සිලිකන් (Blackwell architecture) සඳහාය. ඔබ AMD හෝ Intel දෘඩාංග භාවිතා කරන්නේ නම්, අපේක්ෂිත කාර්යක්ෂමතාව නොලැබෙනු ඇත. මෙය මෘදුකාංගය නොමිලේ ලබා දී දෘඩාංග සඳහා මුදල් ගෙවීමට සිදුවන උපාය මාර්ගයකි.
2. තාපය සහ බලශක්තිය: "Super" හෝ "Ultra" මාදිලි දේශීයව ධාවනය කිරීමේදී තාප කළමනාකරණය (Thermal Engineering) විශාල අභියෝගයකි. කර්මාන්තශාලා තුළ මෙය ක්‍රියාත්මක කිරීමේදී සිසිලන පද්ධති (Cooling Infrastructure) සහ විදුලි බිල ගැන නැවත සිතා බැලීමට සිදුවනු ඇත.

අවදානම් සහ පූර්ව ආරක්ෂාව

දේශීයව AI ධාවනය කිරීමේදී අප සැලකිලිමත් විය යුතු කරුණු කිහිපයක් තිබේ.

• "Frozen Brain" ගැටළුව: Cloud මාදිලි ක්ෂණිකව යාවත්කාලීන වේ (උදා: OpenAI දෝෂයක් නිවැරදි කළ විට එය සැමට ලැබේ). නමුත් දේශීයව රොබෝවරයෙකු තුළ ක්‍රියාත්මක වන "Nemotron" මාදිලියක් ඔබ විසින්ම යාවත්කාලීන (Patch) කරන තෙක් "ගල් වී" පවතී. මෙය නිසි DevOps කණ්ඩායමක් මගින් කළමනාකරණය නොකළහොත් Version Control ගැටළු ඇති විය හැක.
• භෞතික ආරක්ෂාව: රොබෝවරයෙකු තුළ AI ධාවනය වන විට, යන්ත්‍රයට භෞතිකව ප්‍රවේශ වන්නෙකුට එහි ඇති දත්ත සහ AI මාදිලිය සොරාගැනීමේ අවදානමක් ඇත. එනිසා Edge Security ප්‍රොටෝකෝල Cloud වලට වඩා ශක්තිමත් විය යුතුය.

උපායමාර්ගික නිර්දේශය

Nemotron 3 Nano දැන් භාවිතයට සූදානම් අතර, Super සහ Ultra මාදිලි 2026 මුලදී නිකුත් වනු ඇත. තාක්ෂණික නායකයින්ට මගේ උපදෙස වන්නේ දැනට Ultra ගැන නොසිතා Nano කෙරෙහි අවධානය යොමු කරන ලෙසයි. පාරිභෝගික මට්ටමේ දෘඩාංග (Consumer-grade hardware) මත අඩු ප්‍රමාද කාලයක් (Low-latency) සහිත AI ඒජන්තයෙකු නිර්මාණය කිරීමේ හැකියාව තුළ විශාල වාණිජමය වටිනාකමක් ඇත. හෙට දවසේ ලැබෙන විශාල කොන්ත්‍රාත්තු සඳහා සූදානම් වීමට, අදම "NeMo" රාමුව (Framework) ප්‍රගුණ කිරීම අරඹන්න.

මූලාශ්‍රය (Source): https://nvidianews.nvidia.com/