Dy gjigantët e teknologjisë bëhen bashkë për të ndihmuar zhvilluesit e Inteligjencës Artificiale

Microsoft dhe Nvidia kanë bashkuar forcat për të ndihmuar zhvilluesit të ekzekutojnë dhe konfigurojnë modelet e Inteligjencës Artificiale në kompjuterët e tyre Windows.

Gjatë ngjarjes së Microsoft Ignite të mërkurën, Microsoft njoftoi se Windows AI Studio është një qendër e re ku zhvilluesit mund të aksesojnë modelet e IA-sw dhe t’i modifikojnë ato për t’iu përshtatur nevojave të tyre.

Windows AI Studio i lejon zhvilluesit të aksesojnë mjetet dhe modelet e zhvillimit nga Studio ekzistuese Azure AI dhe shërbime të tjera si Hugging Face.

Ai gjithashtu ofron një “konfigurim të hapësirës së punës të udhëhequr” nga fundi në fund me ndërfaqe të konfigurimit të modelit dhe udhëzime për të rregulluar mirë modele të ndryshme të gjuhëve të vogla (SLM), të tilla si Phi i Microsoft, Llama 2 i Metës dhe Mistral.

Windows AI Studio i lejon zhvilluesit të testojnë performancën e modeleve të tyre duke përdorur gjithashtu shabllonet Prompt Flow dhe Gradio.

Microsoft njoftoi se do të nxjerrë në treg Windows AI Studio si një shtesë të kodit të Visual Studio në javët e ardhshme.

Nvidia, në mënyrë të ngjashme, zbuloi përditësime për TensorRT-LLM, të cilat kompania fillimisht i lansoi për Windows si një mënyrë për të ekzekutuar modelet e mëdha të gjuhëve (LLM) në mënyrë më efikase në GPU-të H100.

Sidoqoftë, ky përditësim i fundit sjell TensorRT-LLM në PC të mundësuar nga GPU-të e Serive GeForce RTX 30 dhe 40 me 8 GB RAM ose më shumë.

Për më tepër, Nvidia së shpejti do ta bëjë TensorRT-LLM-në e saj të pajtueshme me API-në e Chat të OpenAI përmes një mbështjellësi të ri.

Kjo do t’i lejojë zhvilluesit të ekzekutojnë LLM në nivel lokal në kompjuterët e tyre, gjë që është ideale për ata që shqetësohen për ruajtjen e të dhënave private.