Etched, Çığır Açan AI Hızlandırıcı Çipiyle Yapay Zeka Donanımında Yeni Bir Devrim Yaratıyor

Etched, Çığır Açan AI Hızlandırıcı Çipiyle Yapay Zeka Donanımında Yeni Bir Devrim Yaratıyor

Etched, çığır açan AI hızlandırıcı çipiyle yapay zeka donanım endüstrisinde büyük yankı uyandırıyor. 2022 yılında Harvard’dan ayrılan Gavin Uberti ve Chris Zhu tarafından kurulan Silikon Vadisi girişimi, günümüzün en gelişmiş yapay zeka sistemlerinin temelini oluşturan transformer modellerini çalıştırmak için özel olarak tasarlanmış, Sohu adını verdikleri özel bir uygulamaya özgü entegre devre (ASIC) geliştirdi.

Etched’in Büyük Dil Modelleri (LLM’ler) için Transformer ASIC’leri

Etched, Sohu çipinin, Nvidia’nın en üst düzey GPU’larından 20 kata kadar daha hızlı AI iş yüklerini işleyebildiğini ve çok daha az güç tükettiğini iddia ediyor. 120 milyon dolarlık yeni fonlama ve büyük bulut sağlayıcılarla işbirlikleri ile Etched, AI çiplerinde Nvidia’nın hakimiyetine güçlü bir rakip olma yolunda ilerliyor.

Finansman turu, Primary Venture Partners ve Positive Sum Ventures tarafından yönetildi ve Peter Thiel, Github CEO’su Thomas Dohmke ve eski Coinbase CTO’su Balaji Srinivasan gibi tanınmış yatırımcıların katılımıyla gerçekleşti. Transformer modelleri, üretken yapay zeka alanında ilerlemeleri sürdürdükçe, Etched’in özel donanımı AI hesaplama alanını dönüştürme potansiyeline sahip.

Etched, GPU’lar ve TPU’ların, keyfi CUDA ve PyTorch kodlarını işleme zorunluluğundan kaynaklanan karmaşıklıklarına odaklanıyor ve bu da karmaşık derleyiciler gerektiriyor. AMD, Intel ve AWS gibi diğer AI çip geliştiricileri, yazılım geliştirmeye milyarlarca yatırım yapmışken, sınırlı başarı elde etmiştir; Etched ise odaklanmasını daraltıyor. Sadece transformer çalıştırarak, Etched, bu modeller için yazılım geliştirmeyi kolaylaştırabilir.

Çoğu AI şirketi, TensorRT-LLM, vLLM veya HuggingFace’in TGI gibi transformer’a özgü çıkarım kütüphanelerini kullanır. Bu çerçeveler nispeten katı olsa da, transformer modelleri farklı uygulamalar—metin, görüntü veya video—arasında temelde benzer olduğu için çoğu ihtiyaçları karşılar. Bu, kullanıcıların temel model kodunu değiştirmeden model hiperparametrelerini ayarlamasına olanak tanır. Ancak, en önde gelen AI laboratuvarları genellikle özel çözümler gerektirir ve mühendisleri GPU çekirdeklerini titizlikle optimize etmek için istihdam eder.

Etched, sürücülerden çekirdeklere kadar tüm yazılım yığınını açık kaynak yaparak tersine mühendislik ihtiyacını ortadan kaldırmayı planlıyor. Bu şeffaflık, mühendislerin gerektiğinde özel transformer katmanlarını uygulamalarına olanak tanır, esnekliği ve yeniliği artırır.

Etched’in AI donanımına yaklaşımı, Groq’un LPU Çıkarım Motoru ile görülen ilerlemeleri yansıtıyor. Groq’un LPU’su, büyük dil modelleri için işlem verimliliğinde yeni standartlar belirlemiş, belirli görevlerde geleneksel GPU’ları geride bırakmıştır. ArtificialAnalysis.ai’ye göre, Groq’un LPU’su, Meta AI’nin Llama 2-70b modeliyle saniyede 241 token işleyerek, büyük miktarda basit veriyi diğer çözümlerden daha verimli işleyebileceğini göstermiştir.

Bu performans, özel AI donanımının, belirli AI iş yüklerine yönelik daha hızlı ve daha verimli işlem yetenekleri sunarak alanı dönüştürme potansiyelini vurguluyor. Etched, donanımı ile saniyede 500.000 token’a kadar işleyebildiğini iddia ederek, Groq’un performansını çok geride bırakıyor.

ASIC’ler Bitcoin için Oyun Değiştirici Oldu; AI için de Aynısını Yapacaklar mı?

Bitcoin madenciliği için ASIC’lerin tanıtımı, ağı derinden etkileyerek devrim niteliğinde bir değişim yarattı. ASIC’ler ilk olarak 2013’te tanıtıldığında, alandaki CPU ve GPU’lara kıyasla madencilik verimliliğinde büyük bir sıçrama temsil ediyordu. Bu geçiş, Bitcoin ekosistemini derinden etkileyerek ağın toplam hash oranını ve dolayısıyla güvenliğini büyük ölçüde artırdı.

Bitcoin madenciliği için özel olarak tasarlanmış ASIC’ler, eşi görülmemiş hesaplama gücü ve enerji verimliliği sunarak, CPU ve GPU madenciliğini Bitcoin için hızla modası geçmiş hale getirdi. Bu değişim, madencilik gücünün hızla merkezileşmesine yol açtı, çünkü yalnızca ASIC donanımına erişimi olanlar kârlı bir şekilde Bitcoin madenciliği yapabiliyordu. ASIC çağı, Bitcoin madenciliğini bireysel meraklılara açık bir hobi olmaktan çıkarıp, son derece rekabetçi ve sermaye yoğun bir endüstriye dönüştürdü.

Etched’in Tarihi ve Gelişimi

Etched’in vizyonu, ChatGPT gibi AI teknolojilerinin henüz yaygın olmadığı ve görüntü ve video üretim modellerinin öncelikle U-Net’ler ve CNN’lere dayandığı 2022 yılında başladı. O zamandan beri, transformer’lar çeşitli AI alanlarında baskın mimari haline gelerek, Etched’in stratejik odaklanmasını doğruladı.

Şirket, tarihteki en hızlı çip lansmanlarından birine doğru hızla ilerliyor. Önde gelen AI çip projelerinden en iyi yetenekleri çekti, TSMC ile gelişmiş 4nm süreci için ortaklık kurdu ve başlangıç üretimini desteklemek için HBM ve sunucu tedariki gibi gerekli kaynakları güvence altına aldı. İlk müşteriler, Etched’in donanımına on milyonlarca dolar taahhüt etti bile.

Bu hızlı ilerleme, AI yeteneklerini dramatik bir şekilde hızlandırabilir. Örneğin, AI modelleri bir gecede 20 kat daha hızlı ve daha ucuz hale gelebilir. Gemini gibi modellerin yavaş yanıt süreleri veya kodlama ajanlarının yüksek maliyetleri ve uzun işlem süreleri gibi mevcut sınırlamalar büyük ölçüde azaltılabilir. Video üretiminden AI destekli konuşmalara kadar gerçek zamanlı uygulamalar, mevcut tıkanıklıkları çözerek, OpenAI gibi önde gelen AI firmalarının yoğun kullanım dönemlerinde karşılaştığı sorunları çözebilir.

Etched’in ilerlemeleri, gerçek zamanlı video, çağrılar, ajanlar ve aramayı bir gerçeklik haline getirmeyi vaat ediyor, AI yeteneklerini ve bunların günlük uygulamalara entegrasyonunu kökten dönüştürüyor.