Microsoft bünyesinde görev yapan bir yapay zeka mühendisi, şirketin geliştirdiği Copilot Designer yapay zeka sistemine ilişkin endişelerini Amerika Birleşik Devletleri Federal Ticaret Komisyonu’na (FTC) iletti. Mühendis, bu yapay zeka aracının şiddet içerikli veya cinsel içerikli görseller üretebileceği konusunda uyarılarda bulundu.
Tartışmalı Yapay Zeka Kullanımı
Mühendis Shane Jones, daha önce de DALL-E 3 yapay zekasıyla ilgili benzer endişelerini dile getirmiş ve şirketin bu konuda yeterli önlem almadığını iddia etmişti. Jones, FTC Başkanı Lina Khan’a yazdığı mektupta, Microsoft’un Copilot Designer’ı kamu kullanımından çekmesi için defalarca çağrıda bulunduğunu, ancak önerilerinin reddedildiğini belirtti. Jones, Copilot Designer’ın genel kullanıma açık olmaması gerektiğini ve sadece yetişkinler için uygun olduğunu savunuyor.
Jones’un iddiaları, OpenAI tarafından desteklenen Copilot Designer’ın güvenlik açıklarına dayanıyor. CNBC’nin raporlarına göre, Jones’un belirttiği basit komutlarla yapay zeka aracının zararlı görseller ürettiği test edilerek doğrulanmış. Jones, Microsoft’un bu sorunlara karşı yeterince proaktif olmadığını ve Copilot ekibinin günde binlerce geri bildirim aldığını, ancak bu sorunları çözmek için gerekli kaynakların sağlanmadığını öne sürüyor.
Microsoft ise, çalışanların endişelerini ciddiye aldıklarını ve politikalara uygun şekilde ele alacaklarını ifade ederek, konuyla ilgili çalışanla iletişime geçtiklerini belirtiyor. Ancak geçmişte yaşanan benzer olaylar, yapay zeka sistemlerinin denetim ve kullanımı konusunda daha fazla dikkat ve düzenleme gerektiğini gösteriyor. Örneğin, Copilot Designer’ın yanı sıra Google’ın Gemini yapay zekası da tarihsel olarak yanıltıcı görseller ürettiği için eleştirilmişti.
Bu olay, yapay zeka teknolojilerinin gelişimiyle birlikte ortaya çıkan etik ve güvenlik sorunlarını bir kez daha gündeme getiriyor. Yapay zeka araçlarının toplum üzerindeki etkileri ve potansiyel riskleri, teknolojinin sorumlu bir şekilde geliştirilmesi ve kullanılması için önemli tartışma konuları arasında yer alıyor.
RSS