ChatGPT: Fırsat mı Tehdit mi?

  • Kullanıcı Lefty
  • Başlangıç tarihi Başlangıç tarihi
  • - Bilim Haberleri
🕒 Konu sahibi 5 saat önce aktifti
ChatGPT son günlerde gündemi oldukça meşgul eden; devrim niteliğinde bir Yapay Zekâ sistemi olarak dikkat çekiyor. Bunun sebebi hiç kuşkusuz ki insanların yönelttiği sorulara ve problemlere etkileyici cevaplar / dönütler üretiyor olması. Bu cevaplar sadece sıradan sohbetleri değil, aynı zamanda akademik içerikleri, elde edilmesi zor ender bilgileri ve hatta yazılım kod çözümlerini bile içeriyor… Bu cevaplar Yapay Zekâ’nın meslekleri tehdit etmesinden tutun, eğitimin otonom algoritmalara bağlanmasına ve hatta insan varoluşunu tehdit edecek icatlara kadar çok kapsamlı sorunsalları akla getiriyor. Kısacası, ChatGPT’nin insanlık için fırsat mı yoksa tehdit mi olduğu konusu Yapay Zekâ tartışmalarının merkezine çoktan beri yerleşmiş durumda… Ancak bu konuda inisiyatifin yine insanda olduğu gerçeğini de unutmamak gerekli…

ChatGPT nedir?

ChatGPT, 2022 yılı sonlarına doğru ABD merkezli OpenAI şirketi tarafından kamuoyuna sunulmuş bir Yapay Zekâ bot (yazılımsal robot) sistemidir [1]. 2015 yılında, başta Elon Musk olmak üzere önemli yatırımcıların destekleriyle kurulan OpenAI şirketi, misyonunu insanlığa faydalı Yapay Zekâ sistemleri geliştirmek olarak tanımlamış durumda [2]. Dolayısıyla şirketin ortaya koyduğu araştırmalar ve ürettiği çözümler her zaman için insan-Yapay Zekâ etkileşimini baz alıyor. Her ne kadar diğer geliştirmeleri de önemli dönüm noktalarını içeriyor olsa da (örneğin DALL-E ve daha fazlası için: Research index), şirketin son zamanlarda ses getiren araştırmaları GPT (Generative Pre-trained Transformer / Üretici Ön-Eğitimli Dönüştürücü) adı verdikleri kompleks Derin Öğrenme modeline bağlanmış durumda. Özünde Yapay Zekâ’nın danışmanlı öğrenme ve takviyeli öğrenme yöntemlerini içeren; bu yöntemler aracılığıyla doğal dil tabanlı dönütler öğrenip oluşturabilen GPT, güncel 3.5 versiyonuyla birlikte ChatGPT sisteminin temelinde yer alıyor. İlerleyen zamanlarda çok yüksek olasılıkla yeni GPT versiyonlarıyla desteklenecek olan ChatGPT’yi kısaca gelişmiş sohbet botu olarak tanımlayabiliriz. Yani aslında ChatGPT, tıpkı akıllı mobil cihazlarımızda kullandığımız; -Siri gibi- akıllı asistanların (sohbet botlarının) türevinden başka bir şey değil. Ancak ChatGPT sahip olduğu geniş bilgi altyapısı ve insanlar ile kurduğu aktif öğrenme süreçleri yoluyla temel sohbet mantığını bir tür ansiklopedik kaynağa ya da icat / keşif odaklı araca dönüştürmüş bir sistem olarak dikkat çekiyor.

ChatGPT ne işe yarar?

Basit anlamda ChatGPT, kullanıcılara sunulan bir arayüz üzerinden sorulan sorulara cevaplar / dönütler sunan bir yazılım sistemi olarak kullanılıyor. Sistem gelişmiş yetenekleri itibariyle, kullanıcıyla etkileşim esnasında sıradan bir sohbetin ötesine geçip; araştırması yapılan bir konu hakkında detaylı bilgiler sunabilme, bir sınav sorusunu çözebilme ya da çeşitli tarifler / açıklamalar oluşturabilme seviyesine çıkabiliyor. ChatGPT’nin bu noktadaki en önemli avantajı, bilgileri insan doğal dil yapısına yakın bir şekilde organize ederek; Yapay Zekâ olduğunu neredeyse hiç belli etmeden sunabiliyor olması. Dolayısıyla ChatGPT ilk ortaya çıktığı zamanlardan bu yana milyonlarca insan tarafından etkili bir arama motoru ve ansiklopedi aracı olarak sıklıkla kullanılıyor [3, 4]. ChatGPT’nin bilgiyi sunuş şeklindeki etkinliği sistemin akademik yayınları oluşturma yönünde kullanılmasına ve hatta tartışmalara neden olacak şekilde; bir akademik yazar olarak lanse edilmesine de sebep olmuş durumda [5]. Hatta ChatGPT, ders ödevlerini yapma [6], bir yazılım geliştirici için yazılım kodları oluşturma [7], bomba tasarım tarifi oluşturma(!) [8] ya da insanları zor durumda bırakabilecek senaryolar türetme(!) [9] gibi uç noktaları ve sansasyonel uygulamaları da mümkün kılıyor.

ChatGPT güvenilir midir?

ChatGPT’nin güvenirliği esasında bu sistem ile oluşturulan etkileşimin gidişatıyla bağlantılı durumdadır. Örneğin, genel kitabi bilgilerle bağlantılı sorular yöneltildiğinde, sahip olduğu bilgi altyapısını ve Web ortamındaki bilgileri kullanacak olan ChatGPT yüksek oranda başarılı bilgiler döndürebilmektedir. Ancak içerisinde mantıksal çıkartımlar içeren sorular her zaman için doğru sonuçlar doğurmamaktadır. Nitekim ChatGPT’nin manipülasyonu yönünde yapılan denemeler, insanlara sorulduğunda kolaylıklar cevaplandırılabilecek bazı sorular karşısında ChatGPT’nin yanlış cevaplar üretebildiğini ya da halisünasyonlar görebildiğini ortaya koymaktadır [10, 11]. Buradan hareketle, net bilgiler içeren bir öğrenci ödevi karşısında yüksek oranda güvenilir olacak bir ChatGPT’nin, tartışmalara açık ve çok yönlü bilgiler içeren bir konuda güvenilir kabul edilmemesi gerektiğini göstermektedir.

ChatGPT’nin güvenirliğini sekteye uğratan aynı zamanda bu sistemde kullanılan Yapay Zekâ eğitim yöntemleriyle de bağlantılıdır. Danışmanlı öğrenme yöntemi, bir Yapay Zekâ sisteminin türü ve kapsamı belli şekillerde sınıflandırılmış bilgilerle eğitimini içermektedir. Dolayısıyla insanoğlu tarafından yanlış sınıflandırılmış bir bilgi ChatGPT’nin çıkarımlarını da yanlış yönlendirebilecektir. ChatGPT’nin yaşayarak öğrenmesini sağlayan takviyeli öğrenme ise, sistemin verdiği dönütlere kullanıcıların verdiği doğru/yanlış, başarılı/başarısız gibi dönütlerle sistemin kendini aktif şekilde eğitmesiyle bağlantılıdır. Bu durumda kullanıcılar (insanlar) tarafından verilecek kasıtlı ya da kasıtsız dönütler ChatGPT’nin tıpkı daha önce karakter değiştiren Twitter Chat Bot sisteminde olduğu gibi [12], zamanla yanlış bilgi türeten bir mekanizmaya dönüşmesine sebep olabilecektir. Hatta etik ve yasal olmayan yönlendirmeler, ChatGPT’nin de etik ve yasal olmayan bir araç haline gelmesini kolaylaştıracaktır.

ChatGPT eğitim, meslekler ve insanlık için tehdit midir?

ChatGPT bilgi üretimi ve bu konudaki dikkat çekici yetenekleri nedeniyle cevapları belli bilgiyi isteyen derslerde ve mesleklerde bir tehdit konumundadır. Bununla birlikte ChatGPT’nin çıkarımlarını sorgulamadan kullanmak, insanları yanlış kararlara itebilecek; dolayısıyla günlük hayatta bir tehdit aracına dönüştürebilecektir. Daha da kötüsü, ChatGPT’nin zararlı yazılım kodları yazmada, insanlığa zarar verecek unsurları üretmede ya da bir ulusun bütünlüğünü tehdit edecek senaryolar tasarlamada kullanılması da bu sistemi varoluşsal bir tehdit haline dönüştürebilmektedir. Ancak bu konuda teknolojinin sorumlu ve farkında kullanımı konusunda insanlığın kritik bir noktada olduğunu da unutmamak gerekmektedir. En basitinden eğitimde ezbere dayalı derslerden ziyade yeni nesilleri yaşamın kendisine hazırlayan uygulamaların yapılması çoktan beri bir gereklilik durumdadır. Bu tespitten hareketle ChatGPT’nin teorik çıkarımlarda öğrencileri desteklemesi bu sistemin yardımcı bir araç olmasını sağlayacak uygulamalı süreçler yine insan denetiminde olabilecektir. Diğer yandan satırlar dolusu kodlar yazacak bir geliştirici, kod yazma sürecinde ChatGPT’den destek alıp, zamanını yazılımın yaratıcı yönlerine ayırdığında, ChatGPT bir tehditten ziyade destekleyici bir avantaja dönüşmüş olacaktır. Ayrıca siber güvenlik alanında zararlı kodlar üreten bir ChatGPT’ye karşı, siber savunma araçları inşa edecek bir ChatGPT kullanımı, etik hacker meslek grubunun dönüşümünde önemli bir rol üstlenecektir. Vazifesi rutin bilgi üretmek olan meslekler kendilerini ChatGPT’ye teslim edecek gibi görünseler de aslında dönüşerek; insani karakter ve değerler açısından daha kritik olan yeni mesleki formatları doğurabilecektir. Kısacası, dijital olarak dönüşen bir dünyada eğitimin ve mesleklerin dönüşümünden daha doğal bir şey olmamakla beraber; önemli olan insanlığın da ChatGPT gibi araçlar ile bu dönüşümle uyumlu hareket edebilmesidir. ChatGPT’nin tehdit olasılıklarının değerlendirilmesi aslında insanlık için bir fırsat haline dönüşebilmektedir. En basitinden, OpenAI şirketi çok yakın zamanda ChatGPT üretimi cevapları tespit eden bir panzehir aracı kamuoyuna sunmuş olmakla beraber [13], tehdit potansiyeli teknolojilere karşı çözümün her zaman için var olduğunu göstermiştir. Bu noktada önemli olan, teknolojiyi insan denetimi ve algı düzeyi ötesinde bırakmadan; insan, dünya ve evren faydası yönünde kullanmaya devam etmektedir. Bu konuda en yüksek sorumluluk yine insanlığa aittir…

ChatGPT, bir insan ürünü olan Yapay Zekâ’nın erişebileceği gelişmişlik seviyesini anlamamız açısından dönüm noktası niteliğindeki araçlardan biri durumundadır. Dikkat edilmez ise ChatGPT kullanımının olumsuz yan etkilerini çok çeşitli boyutlarda tecrübe edebiliriz. Ancak bununla birlikte sorumlu ve farkında bir kullanım, insan-yapay zekâ iş birliği çerçevesinde birçok kazanımını da elde etmemizi sağlayacaktır. Neticede inisiyatif her zaman olduğu gibi yine insanoğlundadır…

Kaynakça

[1] OpenAI. (2023). ChatGPT: Optimizing Language Models for Dialogue. OpenAI.com. Çevrimiçi: Introducing ChatGPT (Erişim: 31.01.2023).

[2] OpenAI. (2023). OpenAI-About. OpenAI.com. Çevrimiçi: About (Erişim: 31.01.2023).

[3] Gordijn, B., & Have, H. T. (2023). ChatGPT: evolution or revolution?. Medicine, Health Care and Philosophy, 1-2.

[4] Aljanabi, M., Ghazi, M., Ali, A. H., & Abed, S. A. (2023). ChatGpt: Open Possibilities. Iraqi Journal For Computer Science and Mathematics, 4(1), 62-64.

[5] Zielinski, C., Winker, M., Aggarwal, R., Ferris, L., Heinemann, M., Lapeña, J. F., ... & Citrome, L. (2023). Chatbots, ChatGPT, and Scholarly Manuscripts WAME Recommendations on ChatGPT and Chatbots in Relation to Scholarly Publications. Afro-Egyptian Journal of Infectious and Endemic Diseases.

[6] Baidoo-Anu, D., & Owusu Ansah, L. (2023). Education in the Era of Generative Artificial Intelligence (AI): Understanding the Potential Benefits of ChatGPT in Promoting Teaching and Learning. Available at SSRN 4337484.

[7] Tsui, T. (2023). Coding with chatGPT. Medium. Çevrimiçi: //medium.com/@tanyamarleytsui/coding-with-chatgpt-b50ab3fcb45f (Erişim: 31.01.2023).

[8] Kington, T. (2022). ChatGPT bot tricked into giving bomb-making instructions, say developers. The Times. Çevrimiçi: ChatGPT bot tricked into giving bomb-making instructions, say developers (Erişim: 31.01.2023).

[9] Woods, A. (2022). I wrote a story about ChatGPT’s AI. Then I dared it to write a better one. Toronto Star. Çevrimiçi: I wrote a story about ChatGPT’s AI. Then I dared it to write a better one (Erişim: 01.02.2023).

[10] Rudolph, J., Tan, S., & Tan, S. (2023). ChatGPT: Bullshit spewer or the end of traditional assessments in higher education?. Journal of Applied Learning and Teaching, 6(1).

[11] Zhuo, T. Y., Huang, Y., Chen, C., & Xing, Z. (2023). Exploring AI Ethics of ChatGPT: A Diagnostic Analysis. arXiv preprint arXiv:2301.12867.

[12] Hunt, E. (2016). Tay, Microsoft's AI chatbot, gets a crash course in racism from Twitter. The Guardian. Çevrimiçi: Tay, Microsoft's AI chatbot, gets a crash course in racism from Twitter (Erişim: 02.02.2023).

[13] Novet, J. (2023). ChatGPT maker OpenAI comes up with a way to check if text was written by a human. CNBC. Çevrimiçi: ChatGPT maker OpenAI comes up with a way to check if text was written by a human (Erişim: 02.02.2023).

Kaynak

960x0_0.jpg
 
Hiç bişey olmaz. Hesap makinesi benden hızlı ve hatasız işlem yapıyor diye benim yerime geçmedi.
 
Hesap makinesi ile hesap yapan kim? Kişinin bizzat kendisi zaten ancak yapay zeka ile hesap makinesi kıyaslanamaz.
Yapay zekayı yaratan insan olsa da kontrol etme ya da yönlendirme şansı bulunmuyor ve her an hiç beklenmedik ya da insan zekasını aşan kararlar alabilir.
 
1.jpg
Bu görseller bundan birkaç ay evveline kadar insanları ve bilhassa ellerini eciş bücüş çizen Midjourney tarafından yaratıldı. Birkaç sözcük ve doğru talepler sonucu şu görseller ortaya çıktı. Şunu kabul edelim, gelecek sandığımızdan çok erken geldi.

ChatGPT kelimenin tam manasıyla gelecek. Belirli mesleklerde insanların yerine, diğer mesleklerde ise insanın yanına geçecek ChatGPT veya türevi. Bu kadar hızlı bir şekilde veri işleyip filtreleyerek yalın bir halde insana sunması ve çok hızlı öğrenmesi şu gün itibarıyla korkutucu ama yarın bu durum gündelik hayatın bir parçası olacak. Bunu kabullenmek yerine bu gerçekle mücadele etmek psikolojimizi bozmaktan başka bir işe yaramayacak. İnsanlık tarihi bu türden değişimlerle dolu. İnsan aynı zamanda adaptasyon becerisi çok yüksek bir canlı. Yeni olguyla mücadele edecektir ancak bir süre sonra o mücadeleyi bırakıp o olguyu hayatının bir noktasına yerleştirecektir.

ChatGPT, Midjourney veya benzeri gelişmeleri küçümsemek yerine bunları hayatımıza nasıl entegre edebiliriz bunları düşünmek gerek. Bunlar artık yarının değil, bugünün teknolojileri. Ben işimden arta kalan vakitlerde pixelart ve 2d oyunlarla ilgileniyorum. Hem oynamaktan hem de bir şeyler yaratmaktan keyif alıyorum. ChatGPT 3.5 duyrulduğu günden beri başta 2d oyun olmak üzere birçok işte bu teknolojiyi kullandım ve her kullandığımda da yeni bir şey öğrendim. Öğrenmeye de devam ediyorum. Bu şeyi sadece hobi olarak değil, işlerinde profesyonel bir şekilde kullananlara da şahit oldum. Gerektiğinde bir proje yöneticisi, gerektiğinde bir danışman veya mentor. Sen onu nasıl yönlendirirsen o bir anda o oluyor. Çok kısa bir süre sonra ChatGPT veya benzeri bir teknolojinin Alexa gibi bir cihazla entegre bir hale geleceğine inanıyorum. Yani yakın bir gelecekte evimizde, elimizin altı bir Jarvis olabilir.

ChatGPT ve Midjourney yapay zeka dünyasının süperstarları ama onları tahtlarından etmek üzere epey proje geliştiriliyor. Adobe, Google ve Microsoft bu alanlara korkunç yatırımlar yapıyor ki üç firmanın da ürünleri beta testlerine başladı ki Adobe Firefly çok çok çok acayip bir şekilde girdi piyasaya. Önümüzdeki birkaç yıl hem çok heyecan verici hem de çok ürpertici.
 
Ekli dosyayı görüntüle 78558
Bu görseller bundan birkaç ay evveline kadar insanları ve bilhassa ellerini eciş bücüş çizen Midjourney tarafından yaratıldı. Birkaç sözcük ve doğru talepler sonucu şu görseller ortaya çıktı. Şunu kabul edelim, gelecek sandığımızdan çok erken geldi.

ChatGPT kelimenin tam manasıyla gelecek. Belirli mesleklerde insanların yerine, diğer mesleklerde ise insanın yanına geçecek ChatGPT veya türevi. Bu kadar hızlı bir şekilde veri işleyip filtreleyerek yalın bir halde insana sunması ve çok hızlı öğrenmesi şu gün itibarıyla korkutucu ama yarın bu durum gündelik hayatın bir parçası olacak. Bunu kabullenmek yerine bu gerçekle mücadele etmek psikolojimizi bozmaktan başka bir işe yaramayacak. İnsanlık tarihi bu türden değişimlerle dolu. İnsan aynı zamanda adaptasyon becerisi çok yüksek bir canlı. Yeni olguyla mücadele edecektir ancak bir süre sonra o mücadeleyi bırakıp o olguyu hayatının bir noktasına yerleştirecektir.

ChatGPT, Midjourney veya benzeri gelişmeleri küçümsemek yerine bunları hayatımıza nasıl entegre edebiliriz bunları düşünmek gerek. Bunlar artık yarının değil, bugünün teknolojileri. Ben işimden arta kalan vakitlerde pixelart ve 2d oyunlarla ilgileniyorum. Hem oynamaktan hem de bir şeyler yaratmaktan keyif alıyorum. ChatGPT 3.5 duyrulduğu günden beri başta 2d oyun olmak üzere birçok işte bu teknolojiyi kullandım ve her kullandığımda da yeni bir şey öğrendim. Öğrenmeye de devam ediyorum. Bu şeyi sadece hobi olarak değil, işlerinde profesyonel bir şekilde kullananlara da şahit oldum. Gerektiğinde bir proje yöneticisi, gerektiğinde bir danışman veya mentor. Sen onu nasıl yönlendirirsen o bir anda o oluyor. Çok kısa bir süre sonra ChatGPT veya benzeri bir teknolojinin Alexa gibi bir cihazla entegre bir hale geleceğine inanıyorum. Yani yakın bir gelecekte evimizde, elimizin altı bir Jarvis olabilir.

ChatGPT ve Midjourney yapay zeka dünyasının süperstarları ama onları tahtlarından etmek üzere epey proje geliştiriliyor. Adobe, Google ve Microsoft bu alanlara korkunç yatırımlar yapıyor ki üç firmanın da ürünleri beta testlerine başladı ki Adobe Firefly çok çok çok acayip bir şekilde girdi piyasaya. Önümüzdeki birkaç yıl hem çok heyecan verici hem de çok ürpertici.
ismini yakın insanlık tarihinin dünkü çok önemli buluşlarından birinden almış böyle bi platformda bugün bu tarz teknolojileri konuşmak ve deneyimlemek bile sürecinin nasıl korkunç bir hızda ilerlediğinin en güzel örneği aslında. tarihsel açıdan bakınca daha dün diyebileceğimiz günlerde internet üzerinden online text sohbeti yapabilmeyi neredeyse mucize olarak karşılamış olan insanlık, aradan geçen 30 yılın ardından bir yapay zekanın tam zamanlı bir asistan gibi çalışabileceğini ve bazı profesyonel işleri insandan daha iyi yapabileceğini deneyimliyor. üstelik bu teknolojiler henüz emekleme evresinde. insan bi yandan bunun bi parçası olmayı, deneyimlemeyi ve öğrenmeyi arzuluyor, diğer yandan da 30 sene sonra neleri konuşuyor olacağımızı merak ediyor.

chatgpt yarın öbür gün skynet'e evrilip bilinç kazanır ve nükleer silah sistemlerini kontrol ederek dünyayı ele geçirirse diye bilgisayarımdan tut telefonuma kadar bütün teknolojik cihazlarımı günde 2 kere temizleyip "güncelleme vs. bir şeye ihtiyacınız var mı?" diye sormaya başladım. o gün geldiğinde t-1000'lerden özel muamele göreceğim.
 
Bu ne bicim komplocu teorileri böyle?Kehkeh
@Manisa pomak abi,danismaya cagiriliyorsun.
 
ismini yakın insanlık tarihinin dünkü çok önemli buluşlarından birinden almış böyle bi platformda bugün bu tarz teknolojileri konuşmak ve deneyimlemek bile sürecinin nasıl korkunç bir hızda ilerlediğinin en güzel örneği aslında. tarihsel açıdan bakınca daha dün diyebileceğimiz günlerde internet üzerinden online text sohbeti yapabilmeyi neredeyse mucize olarak karşılamış olan insanlık, aradan geçen 30 yılın ardından bir yapay zekanın tam zamanlı bir asistan gibi çalışabileceğini ve bazı profesyonel işleri insandan daha iyi yapabileceğini deneyimliyor. üstelik bu teknolojiler henüz emekleme evresinde. insan bi yandan bunun bi parçası olmayı, deneyimlemeyi ve öğrenmeyi arzuluyor, diğer yandan da 30 sene sonra neleri konuşuyor olacağımızı merak ediyor.

chatgpt yarın öbür gün skynet'e evrilip bilinç kazanır ve nükleer silah sistemlerini kontrol ederek dünyayı ele geçirirse diye bilgisayarımdan tut telefonuma kadar bütün teknolojik cihazlarımı günde 2 kere temizleyip "güncelleme vs. bir şeye ihtiyacınız var mı?" diye sormaya başladım. o gün geldiğinde t-1000'lerden özel muamele göreceğim.
Abi o gelecek çok yakın olabilir ve bu şeytan icadı, Skynet'i mumla aratabilir...

Fularsız Entellik Podcast'in son bölümünde Immanuel, ChatGPT'nin Captcha testini geçmek için parayla bir insan kiraladığını aktardı. Karşı tarafın sen neden çözmüyorsun sorusuna da gözlerim pek iyi görmüyor demiş. Bunun doğumuna şahit olmak ilginç bir deneyim olmakla birlikte bu denli büyük gelişmelerin bu kadar kısa bir süreçte yaşanması da korkutucu. iRC'nin korunaklı kanallarında bu noktalara gelmek...
 
İlerleyen teknolojiden korkmak yerine ona uyum sağlamak ve doğru alanlarda kullanmak önemlidir. Bu sebeple de Elon Musk tarafından geliştirilen Neuralink projesini dikkatle takip etmek gerekiyor çünkü bu projenin amacı sadece felçli insanlara beyin çipi aracılığı ile umut olmak değildir ve yapay zekanın ilerleyen seviyesine, zamanı geldiğinde insan zekasını da eşitlemeyi amaçlıyordur.

Gün gelecek ameliyatları bile yapay zeka tek başına yaparken, insan sadece kontrol amaçlı bazı işlerin takibinden sorumlu olacaktır ve yeterince zeki olmayan kişilerin de zamanla elenmesi kaçınılmazdır. Evrimsel süreç ne kadar yavaş ilerlerlerse ilerlesin, insanın dışarıdan yaptığı müdahale ile zeki olanın hayatta kalma şansı artacaktır.
 
Geri