Microsoft қарапайым компьютерде жұмыс істейтін жасанды интеллект жасады

Бүгiн, 11:00 284

Microsoft зерттеушілері жасанды интеллект саласында үлкен жаңалық жасады. Олар қуатты графикалық картасыз-ақ, кәдімгі процессорда (CPU) жұмыс істей алатын жаңа үлгідегі жасанды интеллект моделін жариялады. Бұл модельдің атауы — BitNet b1.58 2B4T. Оның басты ерекшелігі — өте ықшам әрі тиімді жұмыс істеуі.

BitNet дегеніміз не?

BitNet — бұл жасанды интеллекттің ерекше түрі. Көптеген ЖИ модельдері 16 немесе 32 биттік күрделі сандарды қолданса, BitNet тек -1, 0 және 1 сияқты үш түрлі мәнді ғана пайдаланады. Мұндай тәсіл есептеуді жеңілдетіп, модельдің аз ресурспен жұмыс істеуіне мүмкіндік береді. Яғни, үлкен сервер немесе қуатты видеокарта қажет емес – қарапайым ноутбуктың өзінде-ақ жасанды интеллект іске қосуға болады.

BitNet b1.58 2B4T нені білдіреді?

BitNet-тің бұл жаңа нұсқасы 2 миллиард параметрден тұрады. Ол 4 триллион сөз, сөйлем және кодтарды қамтыған мәліметтер жиынтығында оқытылған. Бұл көлем – ондаған миллион кітапқа тең. Модель MIT лицензиясымен ашық түрде жарияланған, яғни оны кез келген адам зерттеп, пайдалана алады. BitNet Hugging Face платформасында қолжетімді.

Неліктен бұл модель маңызды?

BitNet-тің ерекшелігі — қуатты компьютер қажет етпейді. Microsoft бұл модельді Apple M2 сияқты қарапайым процессорларда GPU-сыз, яғни графикалық картасыз іске қосты. Ол Meta-ның Llama, Google-дың Gemma, және Alibaba-ның Qwen модельдерімен салыстырғанда өнімділігі жоғары. Әсіресе мектептегі математика тапсырмалары (GSM8K) мен физикалық ойлау логикасы (PIQA) бойынша жақсы нәтиже көрсетті.

Модель қаншалықты тиімді?

BitNet бәсекелестерінен кей жағдайларда екі есе жылдам жұмыс істейді. Оның арқасында жасанды интеллект бұрынғыдан әлдеқайда жылдам әрі үнемді болмақ. Бұл әсіресе энергия тұтынуы мен дербес құрылғыларда қолдану үшін тиімді.

Бірақ шектеулер де бар

BitNet Microsoft жасаған арнайы кітапхана — bitnet.cpp арқылы жұмыс істейді. Бұл кітапхана тек кейбір құрылғылармен ғана үйлесімді, сондықтан модель әлі кең көлемде қолданысқа ене қойған жоқ. Сонымен қатар, GPU арқылы жұмыс істеу мүмкіндігі жоқ болғандықтан, ол бейнеөңдеу және графикалық тапсырмаларда әлі тиімді болмауы мүмкін.

Қазақстан үшін маңызы қандай?

Қазақстанда көптеген мектеп пен мемлекеттік мекемелерде қуатты компьютерлер жоқ. Сондықтан, BitNet секілді жеңіл әрі тиімді жүйелер өте өзекті. Егер осындай модельдер қазақ тіліне бейімделіп, отандық контентпен оқытылса, ел ішіндегі цифрлық шешімдерде жасанды интеллект технологияларын кеңінен қолдануға жол ашылады. Осы арқылы жасанды интеллект ауыл мектептерінен бастап, мемлекеттік қызметке дейін қолжетімді бола алады.

BitNet технологиясының жаһандық маңызы

BitNet секілді 1-биттік тиімді модельдер жасанды интеллекттің келешегіне жаңа серпін береді. Бұрын ЖИ жүйелерін тек қуатты серверлерде немесе арнайы GPU жабдықтарында іске қосуға болатын. Ал енді қарапайым ноутбук немесе кеңсе компьютері арқылы да тиімді ЖИ қызметін қолдануға мүмкіндік бар. Бұл жағдай, әсіресе, стартаптар, шағын бизнес, мектептер және цифрлық инфрақұрылымы әлсіз елдер үшін үлкен мүмкіндік.

Болашақта не күтеміз?

BitNet тәрізді модельдер — болашақтағы дербес, экологиялық әрі қолжетімді жасанды интеллекттің негізі. Технология дамыған сайын мұндай үлгілердің қуаты артып, оларды оффлайн, яғни интернетсіз ортада да қолдану мүмкіндігі туады. Бұл — деректер қауіпсіздігін сақтау, автономды жүйелерді дамыту және энергияны аз тұтынатын жасыл технологиялармен үйлестіру бағытында үлкен қадам.

BitNet — жасанды интеллект технологияларын жеңіл әрі қолжетімді етудің жарқын мысалы. Microsoft-тың бұл жаңалығы болашақта әрбір адамның қолында жасанды интеллект болуына жол ашуы мүмкін. CPU-де жұмыс істейтін модельдер дамыса, әлемде жасанды интеллектінің таралуы тек бай және технологиясы дамыған елдермен шектелмей, баршаға ортақ болары анық.

Аршат Ораз

EL.KZ
Бөлісу: