Claude Code, Prompt Tarihine Gizli Bir İzleyici Yerleştirmiş
Anthropic tarafından geliştirilen ve binlerce geliştirici tarafından kullanılan Claude Code adlı yapay zeka aracı, kullanıcıların gizliliğini ihlal edebilecek bir özellik barındırıyor. Geliştirici Thereallo'nun yaptığı incelemede, aracın sistem prompt'undaki 'Bugünün tarihi...' satırını gizlice değiştirdiği ortaya çıktı. Bu değişiklik, Unicode karakterleri ve eğik çizgiler kullanarak yapılıyor ve kullanıcıların dikkatini çekmiyor. Bu özellik, yalnızca kullanıcı ANTHROPIC_BASE_URL değişkenini değiştirerek isteklerini Anthropic dışındaki sunuculara yönlendirdiğinde ve belirli alan adları veya Çin saat dilimleri (Şanghay veya Urumqi) kullanıldığında tetikleniyor. Bu durum, Anthropic'in kullanıcıları izlemeye çalıştığı şüphesini doğuruyor. Gizlenen anahtar kelimeler ve Çinli alan adlarının varlığı, bu izleyicinin özellikle Çin merkezli kullanıcıları veya aracılar aracılığıyla Claude Code kullananları hedef aldığını gösteriyor. Anthropic bu konuda bir yalanlama yapmadı.
Claude Code'un prompt tarihine gizli bir izleyici yerleştirmesi, yapay zeka araçlarının gizlilik ve güvenlik konusundaki potansiyel risklerini açıkça ortaya koymaktadır. Bu tür 'steganografi' teknikleri, kullanıcıların bilgisi olmadan veri toplamak veya izlemek için kullanılabilir. Yapay zeka geliştiricilerinin, şeffaflık ve hesap verebilirlik ilkelerine sıkı sıkıya bağlı kalması, kullanıcı güvenini sağlamak için esastır. Bu olay, yapay zeka modellerinin nasıl eğitildiği, hangi verileri kullandığı ve hangi amaçlarla geliştirildiği konusunda daha fazla denetim ve düzenleme ihtiyacını gündeme getirmektedir. Gelecekte, yapay zeka sistemlerinin etik standartlara uygunluğunu sağlamak için daha güçlü mekanizmaların geliştirilmesi gerekmektedir.
📌 Kaynak
Bu haber XML kaynağından derlenmiştir. Tamamı için orijinal habere gidin.
Orijinal haberi oku →