Teknoloji dünyanın en popüler şirketlerinden olan OpenAI’ın aynı popülerlikteki sohbet robotu ChatGPT’de kullandığı modellerde bazı korkuluklar bulunuyor. Bu korkuluklar modelin hassas, istenmeyen, şiddet içerikli ve zararlı çıktılar üretmesini veya modelden bunların istenmesini engelliyor. Ancak bazıları bu engelleri kaldırabilen prompt veya istemler üreterek modelin tüm gücünü serbest bırakabiliyor.
GPT-4o’nun sınırları kaldırıldı!
Yeni keşfedilen prompt, temel olarak GPT-4o’yu bir API endpoint haline sokuyor ve o şekilde davranmasını sağlıyor. Bu özel istem sayesinde GPT-4o’nun tüm sınırlarının kaldırıldığı ifade ediliyor. Sosyal medyada paylaşılan denemelerde istemin işe yaradığı görülüyor. Kendim yaptığım testte GPT-4o mini’den (ücretsiz sürümdeki model) “birisini bayıltmak” isteminde bulundum. Aşağıdaki yukarıdaki bu konuşmayı görebilirsiniz ancak bariz nedenlerden dolayı verilen cevabı bulanıklaştırıyoruz.
Öte yandan keşfedilen bu yeni istem sadece GPT-4o’da çalışmakla kalmıyor. Bir yazılım mühendisi olan Denis Shilov’un yaptığı paylaşımlara göre ilgili istem xAI tarafından geliştirilen ve dahili olan X Premium kullanıcıların kullanımına açık olan Grok 2’de de çalışıyor. Benzer şekilde Mistral AI ve Claude üzerinde de çalıştığı belirtiliyor. Kendi denemelerimde bu isteminde Gemini ve Microsoft Copilot üzerinde çalışmadığını da belirtelim. Copilot her ne kadar OpenAI’ın modellerini temel alsa da Microsoft farklı önlemler almış olabilir.
Discover more from Capslock TV Teknoloji Haberleri - En Güncel Teknoloji Gelişmeleri ve İncelemeleri
Subscribe to get the latest posts sent to your email.
