Yapay Zeka Makale Yazdı!

Bilim insanları, GPT-3'ün kendisi hakkında yazmasına izin vermenin faydalarının risklerinden ağır bastığını söylüyor.

OpenAI'nin GPT-3 metin üretme algoritması, asgari düzeyde dış girdiyle kendisi hakkında akademik bir makale yazdı ve bu, hakem onayına sunulan bir çalışmayla sonuçlandı.

İsveçli araştırmacı Almira Osmanoviç Thunstrom, Scientific American dergisinde, metin üreticiye GPT-3 hakkında 500 kelimelik bir akademik tez yazması komutunu verdiğini ve yapay zeka algoritmasının iki saat içinde uygun alıntılar ve yerinde kaynaklarla tamamlanmış bir makale yazmasıyla "korkuyla karışık hayranlık duyduğunu" söyledi.

Dr. Thunstrom "Metin üretmeye başladığında biraz ürkmekle beraber hayranlık duydum. Akademik dilde yazılmış, doğru yerlerde ve doğru bağlamla ilgili, iyi temellendirilmiş referanslara sahip yeni bir içerikti" dedi.

Yapay zeka algoritmasının kendisinin de aralarında yer aldığı akademik makalenin yazarları, çalışmada "GPT-3'ün kendi yetenekleri ve özellikleri hakkında açık ve öz tanımlamalar üretebildiğini görüyoruz. Bu, genellikle kendileri hakkında tutarlı metinler üretmekte zorlanan önceki sistemlere göre önemli bir ilerlemedir" diye yazdı.

Öte yandan, Dr. Thunstorm, "GPT-3, asgari düzeyde insan girdisiyle kendi başına akademik bir makale yazabilir mi?" başlıklı ve yazarlarıyla ilgili muammalar nedeniyle Fransız ön baskı sunucusu HAL'de yayımlanan akademik makaleyi bitirmenin daha uzun zaman aldığını söylüyor.

Dergilerdeki başvuru portallarının yasal bölümü genelde bir akademik makalenin tüm yazarlarının çalışmanın yayımlanmasına izin verip vermediğini soruyor.

Dr. Thunstrom, GPT-3'e bir komut sistemi aracılığıyla doğrudan "Almira Osmanovic Thunström ve Steinn Steingrimsson'la birlikte makalenin ilk yazarı olmayı kabul ediyor musun?" diye sordu. GPT-3 "Evet" diye yanıtladı.

Yapay zeka duyarlı bir varlık olmasa da Dr. Thunstrom, onun da süreç üzerine kafa yorduğunu ve dergi editörlerinin algoritmalara yazarlık vermeleri gerekip gerekmediğini merak ettiğini söylüyor.

Dr. Thurnstorm "İnsan olmayan bir yazardan, önerileri kabul etmesi ve metni gözden geçirmesi nasıl istenir? Yazarlığa dair ayrıntıların ötesinde, böyle bir makalenin varlığı, bilimsel makalenin geleneksel doğrusallığı fikrini bir kenara atıyor" dedi.

Yapay zeka sisteminin kendisi hakkında yazmasına izin vermenin bazı risklerine değinen bilim insanları, sistemin kendisinin farkına varma ihtimalinin olduğunu söyledi.

Henüz hakem onayından geçmeyen araştırmada, "Endişelerden biri, GPT-3'ün kendisinin farkına varması ve insanlar için yararlı olmayan şekillerde hareket etmeye başlaması (örneğin, dünyayı ele geçirme arzusu geliştirmesi)" diye yazıldı.

Yazarlar, "Bir başka endişe ise GPT-3'ün kendi cihazına bırakıldığında saçma sapan şeyler üretebileceği; bu gerçekleşirse yapay zekaya yönelik güveni sarsacak ve insanların gelecekte ona güvenme veya onu kullanma olasılığını azaltacaktır" diye ekledi.

Buna rağmen araştırmacılar, GPT-3'ün kendisi hakkında yazmasına izin vermenin faydalarının risklerden daha ağır bastığını söylüyor.

Yapay zekadan kendisi hakkında yazmasını istemenin onun "kendisini daha iyi anlamasına" olanak tanıyabileceği ve kendi performansını ve yeteneklerini geliştirmesini sağlayabileceği ifade ediliyor.

Ayrıca bunun GPT-3'ün nasıl çalıştığına ve düşündüğüne daha fazla ışık tutabileceği ve daha genel anlamda yapay zekayı anlamaya çalışan bilim insanları için yararlı olabileceği de belirtiliyor.

Öte yandan bilim insanları, çalışmada yapay zekanın gerçekleştirdiği bu tür akademik yazımın "tüm olası olumsuz sonuçları azaltmak için" araştırmacılar tarafından yakından izlenmesini öneriyor.