Ancak, hala rakiplerinden daha ucuz.
Deepseek'ten yeni sohbet botu beni ilgi çekici bir tanıtımla karşıladı:
Merhaba, yaratıldım, böylece herhangi bir şey sorabilir ve sizi şaşırtabilecek bir cevap alabilirsiniz.
Bugün, Deepseek'in yapay zekası pazarda müthiş bir oyuncu olarak ortaya çıktı ve hatta Nvidia'nın en önemli hisse senedi fiyat düşüşlerinden birine neden oldu.
Resim: ensigame.com
Bu modeli birbirinden ayıran şey, yenilikçi mimarisi ve eğitim yöntemleridir. Deepseek birkaç son teknoloji kullanıyor:
Çoklu Tahmini Tahmin (MTP): Model, bir seferde bir kelimeyi tahmin etmek yerine, bir cümlenin farklı bölümlerini analiz ederek aynı anda birden fazla kelimeyi tahmin eder. Bu yaklaşım, modelin hem doğruluğunu hem de verimliliğini önemli ölçüde artırır.
Uzmanların Karışımı (MOE): Bu mimari, girdi verilerini işlemek için çeşitli sinir ağlarını kullanır. Teknoloji AI eğitimini hızlandırır ve performansı artırır. Deepseek V3'te 256 sinir ağı kullanılır, sekizi her jeton işleme görevi için etkinleştirilir.
Çok Baş Gizli Dikkat (MLA): Bu mekanizma, bir cümlenin en önemli kısımlarına odaklanmaya yardımcı olur. MLA, metin parçalarından önemli ayrıntıları sadece bir kez yerine tekrar tekrar çıkarır ve önemli bilgilerin eksik olma olasılığını azaltır. Bu, AI'nın giriş verilerindeki önemli nüansları daha etkili bir şekilde yakalamasını sağlar.
Tanınmış Çin girişimleri Deepseek, minimum maliyetle rekabetçi bir AI modeli geliştirdiğini iddia ediyor ve güçlü sinir ağı Deepseek V3'ü eğitmek için sadece 6 milyon dolar harcadıklarını ve sadece 2048 grafik işlemcileri kullandıklarını iddia ediyor.
Resim: ensigame.com
Bununla birlikte, yarı analizden gelen analistler, Deepseek'in yaklaşık 50.000 NVIDIA Hopper GPU'lu büyük bir hesaplama altyapısı işlettiğini ortaya çıkardılar. Buna 10.000 H800 birim, 10.000 daha gelişmiş H100 ve ek grup H20 GPU'lar dahildir. Bu kaynaklar çeşitli veri merkezlerine dağıtılır ve AI eğitim, araştırma ve finansal modelleme için kullanılır.
Şirketin sunuculara toplam yatırımı yaklaşık 1,6 milyar dolar, operasyonel giderlerin 944 milyon dolar olduğu tahmin ediliyor.
Deepseek, 2023'te AI teknolojilerine odaklanan ayrı bir bölüm olarak başlatılan Çin Hedge Fonu High-Flyer'in bir yan kuruluşudur. Bulut sağlayıcılarından bilgi işlem gücünü kiralayan çoğu girişimin aksine, Deepseek kendi veri merkezlerine sahiptir ve AI model optimizasyonu üzerinde tam kontrol sağlar ve inovasyonların daha hızlı uygulanması. Şirket, esnekliğini ve karar verme hızını olumlu yönde etkileyen kendi kendini finanse ediyor.
Resim: ensigame.com
Dahası, Deepseek'teki bazı araştırmacılar yılda 1.3 milyon doların üzerinde para kazanıyor ve önde gelen Çin üniversitelerinden en iyi yetenekleri çekiyor (şirket yabancı uzmanları işe almıyor).
Bu faktörlerle bile, Deepseek'in son modelini sadece 6 milyon dolarlık eğitme iddiası gerçekçi görünmüyor. Bu rakam sadece eğitim öncesi GPU kullanımının maliyetini ifade eder ve araştırma giderleri, model iyileştirme, veri işleme veya genel altyapı maliyetlerini açıklamaz.
Deepseek, kuruluşundan bu yana AI gelişimine 500 milyon doların üzerinde yatırım yaptı. Bununla birlikte, bürokrasi ile yüklenen daha büyük şirketlerin aksine, Deepseek'in kompakt yapısı AI yeniliklerini aktif ve etkili bir şekilde uygulamasını sağlar.
Resim: ensigame.com
Deepseek örneği, iyi finanse edilen bağımsız bir AI şirketinin endüstri liderleriyle rekabet edebileceğini göstermektedir. Bununla birlikte, uzmanlar şirketin başarısının büyük ölçüde milyarlarca yatırım, teknik atılımlar ve güçlü bir ekipten kaynaklandığını vurgularken, AI modelleri geliştirmek için "devrimci bir bütçe" iddiaları biraz abartılıdır.
Yine de, rakiplerin maliyetleri önemli ölçüde daha yüksek. Örneğin, model antrenman maliyetini karşılaştırın: Deepseek R1'e 5 milyon dolar harcadı, ChatGpt4o ise 100 milyon dolara mal oldu.
