Nvidia prezentuje modele Nemotron 3.5 dla agentów AI i komputerów PC — TechCrunch
Nvidia zaprezentowała nowe modele Nemotron 3.5 z otwartymi wagami, przeznaczone dla stale aktywnych agentów AI i przetwarzania brzegowego. Seria obejmuje korporacyjny model Nemotron 3.5 Super VL z 120 mld parametrów, a także dwa mniejsze modele Bolt do lokalnego uruchamiania na komputerach PC i stacjach roboczych, podaje TechCrunch.
Model dla agentów korporacyjnych
Nemotron 3.5 Super VL jest przeznaczony do wykorzystania w korporacyjnych agentach AI. Nvidia oświadczyła, że model ma mniej parametrów niż Nemotron 3 Ultra, ale może zapewniać podobną dokładność w wykonywaniu instrukcji i korzystaniu z narzędzi.
Nvidia twierdzi również, że po dodatkowym szkoleniu do konkretnych zadań agentowych Super VL wykonuje je szybciej niż szereg konkurencyjnych modeli. Wśród takich zadań firma wymieniła analizę dokumentów, księgowość finansową, eksperymenty naukowe, przetwarzanie roszczeń ubezpieczeniowych w ochronie zdrowia oraz odporność na cyberataki. Według Nvidii z Super VL korzystają Skydance, EY, Ramp, CrowdStrike, Perplexity i Salesforce.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Lokalne działanie na komputerach PC
Dwa modele Bolt są przeznaczone do uruchamiania na nowych komputerach AI PC z układem Nvidia RTX Spark oraz stacjach roboczych DGX Spark. Takie komputery, skierowane do konsumentów, programistów i korporacyjnych pracowników umysłowych, trafiają na rynek za pośrednictwem partnerów, w tym Microsoftu i Della.
Nemotron 3.5 Bolt 74B-A9B 24GB ma 74 mld parametrów i jest przeznaczony do lokalnych zadań agentowych wymagających wieloetapowego rozumowania, wywołań narzędzi i przeglądania internetu. Najmniejszy model, Bolt E4B, jest przeznaczony dla agentów konwersacyjnych. Super VL i Bolt 74B-A9B są już dostępne, a Nvidia planuje wypuścić Bolt E4B później w tym miesiącu.
Wiceprezeska Nvidii ds. otwartych modeli i oprogramowania Kari Briski oświadczyła, że organizacje mogą dalej szkolić Super VL na własnych danych, wdrażać go we własnej infrastrukturze i kontrolować tworzone rozwiązania. Nvidia pozycjonuje również lokalne modele jako sposób na delegowanie codziennych zadań bez przenoszenia obciążeń do chmury.
