OpenAI, geçen hafta aktör Scarlett Johansson’dan sesini kullandığı için özür dilemek zorunda kaldı – ya da çok benzer bir şey – en son sohbet robotunda, spot ışığını ses klonlama teknolojisine fırlattı.
OpenAI, kullandıkları sesin Johansson’a ait olduğunu reddetmesine rağmen, davalarına CEO Sam Altman’ın yeni modeli sosyal medyada tek kelimelik bir mesajla işaretlemesi yardımcı olmadı – “O”.
Johansson, Altman’ın daha önce teknoloji hakkında en sevdiği film olduğunu söylediği “Her” filminde bir AI karakterini seslendirdi.
En başından beri, AI ses klonlamasının sorunlu olduğu kanıtlandı.
Geçen yıl, İngiliz firması Elevenlabs, ses klonlama yazılımını piyasaya sürdüğünde tüm yanlış nedenlerle viral hale geldi.
İnternet şakacıları hemen sahte ünlüleri itmeye başladı – Harry Potter yıldızı Emma Watson, Hitler’in Mein Kampf’ını okurken gösterildi.
Kolluk kuvvetleri, AI klonlarının sevdiklerinden telefonla para koparmak için kullanılabileceği konusunda uyardı.
Teknoloji geçen yıl hızla gelişti ve çok daha gerçekçi ve nüanslı hale geldi.
İngiliz yapay zeka firması Synthesia’nın CEO’su Danimarkalı girişimci Victor Riparbelli, afp’ye bunun büyük ölçüde iki yıl önce piyasaya sürülen Tortoise adlı bir programa bağlı olduğunu söyledi.
Programın geliştiricileri, modellerine yapılandırılmamış bir şekilde binlerce saatlik ses verisi attılar ve yalnızca ne söyleyeceğini değil, nasıl söyleyeceğini de öğrendiklerini keşfettiler.
Riparbelli, geçen haftaki Paris’teki VivaTech konferansının oturum aralarında “Bu oldukça büyük bir paradigma değişikliğiydi” dedi.
Tortoise açık kaynaklı bir programdı ve Elevenlabs onu kullanan ilk kişi oldu.
OpenAI, herhangi bir ayrıntı yayınlamamasına rağmen benzer sistemler kullanır.
Ses klonlama konusundaki tartışmaların çoğu, insanların yazılımı kötüye kullanmasıyla ilgili endişelere odaklandı.
Ancak OpenAI aleyhindeki iddia alışılmadık çünkü şirketin kendisi hızlı ve gevşek oynamakla suçlanıyor.
CEO Katya Laine, “Openaı’nin bunu yapması çok talihsizdi – gerçekten pek iyi değil” dedi TALKR.ai , vivatech’te Afp’ye söyledi.
Riparbelli, “Onun haberi olmadan sesini gerçekten klonladılarsa, bunun çok çok kötü olduğunu düşünüyorum” dedi.
İki girişimci, şirketleri daha verimli hale getireceğini iddia ettikleri kullanımlar için yapay zeka ses programlarından yararlanan yüzlerce girişimci arasında yer alıyor.
Laine’in firması sanal ses asistanları sağlıyor – esasen AI müşteri hizmetleri acenteleri.
Firmasının sisteminin artık aramaların yüzde 25 ila 30’unu herhangi bir insan müdahalesi olmadan çözebileceğini söyledi.
