OpenAI tregon rezultatet e cipit «Jalapeño»: më i shpejtë dhe më kursimtar se teknologjitë në treg

Në konferencën Hot Chips të të martës, OpenAI ka dhënë pamje më të detajuar të cipit të saj «Jalapeño», përfshi grupin e parë të rezultateve të benchmark-eve për sistemin e ri, raporton TechCrunch. Testuar në benchmark-un InferenceX të SemiAnalysis, Jalapeño regjistroi më shumë tokenë për përdorues dhe më shumë kapacitet përpunimi për kilovat se procesorët inferencialë aktualë më të mirë në treg.

«Përfundimi është se rezultatet tregojnë një përparim performancë shumë, shumë të rëndësishëm ndaj state of the art», tha Richard Ho, përgjegjësi i harduerit të OpenAI-së, në telekonferencën me gazetarë. Sipas tij, cipi mund të shërbejë më shumë punë AI për njësi energjie dhe njëkohësisht të përgjigjet më shpejt, duke qenë efikas si për masivitet ashtu edhe për latencë të ulët.

Krahasimi është bërë kundrejt një sistemi Blackwell të Nvidia-s, standardi aktual i tregut – por kur Jalapeño të arrijë vendosjen e plotë, konkurrentët mund ta kenë avancuar teknologjinë ndjeshëm, kujton artikulli. Ho vlerësoi se deployimi i parë do të ndodhë në fund të 2026-ës «në volume shumë të vogla», me shtrirjen serioze të planifikuar për 2027-n.

Cipi u njoftua për herë të parë në tetorin e kaluar dhe është zhvilluar në bashkëpunim të ngushtë me Broadcom-in, me modelet e vetë OpenAI-së që kanë ndihmuar në procesin e projektimit. Strategjia e silikonit tregon se kompania nuk donte të mbetej vetëm kliente e Nvidia-s në infrastrukturën e inferencës.

Për industrinë e AI-së beteja e cipeve është bërë fronti kryesor i kostove: kush shërben më shumë tokenë për kilovat fiton diferencën e marzhit në një treg ku kërkesa për inferencë po rritet më shpejt se oferta e energjisë.