{"id":2425,"date":"2022-01-20T01:16:43","date_gmt":"2022-01-19T22:16:43","guid":{"rendered":"http:\/\/www.mmcelikpartners.com\/test\/?p=2425"},"modified":"2025-01-09T15:54:04","modified_gmt":"2025-01-09T12:54:04","slug":"pentagon-yapay-zeka-ahlak-ilkeleri","status":"publish","type":"post","link":"http:\/\/www.mmcelikpartners.com\/index.php\/2022\/01\/20\/pentagon-yapay-zeka-ahlak-ilkeleri\/","title":{"rendered":"Pentagon Yapay Zek\u00e2 Ahlak \u0130lkeleri"},"content":{"rendered":"\n

1. Giri\u015f<\/strong>
2016\u2019da kurulan Pentagon Savunma \u0130novasyon Kurulu, 31 Ekim 2019 tarihinde genel olarak silahl\u0131 \u00e7at\u0131\u015fmalar hukuku, savunma sanayi ve yapay zek\u00e2 ili\u015fkisine dair oldu\u011funu s\u00f6yleyebilece\u011fimiz \u201cYapay Zek\u00e2 \u0130lkeleri: Savunma Bakanl\u0131\u011f\u0131n\u0131n Yapay Zek\u00e2y\u0131 Ahlaki Kullan\u0131m\u0131na Dair Tavsiyeler\u201d ba\u015fl\u0131kl\u0131 belgeyi yay\u0131nlam\u0131\u015ft\u0131r. Kurul, belgede yer alan yapay zek\u00e2ya dair be\u015f ahlak ilkesini, Amerikan Savunma Bakanl\u0131\u011f\u0131n\u0131n onay\u0131na sunmaktad\u0131r. Bu bak\u0131mdan belgede yer alan ilkeler k\u0131sm\u0131n\u0131 k\u0131sa bir de\u011ferlendirme ile beraber \u00e7evirmenin Amerikan bak\u0131\u015f a\u00e7\u0131s\u0131n\u0131 g\u00f6rmek a\u00e7\u0131s\u0131ndan faydal\u0131 olabilece\u011fini d\u00fc\u015f\u00fcnd\u00fck.<\/p>\n\n\n\n

Metin daha \u00f6nceden bu konuda yay\u0131nlanm\u0131\u015f ahlaki ilke metinleri kar\u015f\u0131s\u0131nda ge\u00e7 kald\u0131\u011f\u0131n\u0131n fark\u0131ndad\u0131r. Ancak metin yazarlar\u0131na g\u00f6re yapay zek\u00e2 ile ilgilenen yap\u0131lar\u0131n bu teknolojinin te\u015fkil etti\u011fi sorunlar\u0131 \u00e7\u00f6zm\u00fc\u015f olmas\u0131 m\u00fcmk\u00fcn de\u011fildir. \u00dcst perdeden bir dille yap\u0131lan bu giri\u015fle metnin yaz\u0131l\u0131\u015f sebebi a\u00e7\u0131klanmak istenmektedir. Yapay zekan\u0131n beraberinde getirdi\u011fi sorunlar\u0131n ba\u015fka yap\u0131lar taraf\u0131ndan \u00e7\u00f6z\u00fclemedi\u011fine<\/em> dair bu ifadeler ayn\u0131 zamanda belgenin yazarlar\u0131n\u0131n ilkelere duydu\u011fu g\u00fcvensizli\u011fin ve yapay zekan\u0131n getirdi\u011fi sorunlar\u0131n yak\u0131n gelecekte \u00e7\u00f6z\u00fclemeyece\u011fine dair d\u00fc\u015f\u00fcncelerinin bir g\u00f6stergesi olarak da okunabilir.<\/p>\n\n\n\n

Metnin odak noktas\u0131n\u0131n yapay zekan\u0131n ahlaki \u00e7al\u0131\u015fmas\u0131ndan ziyade iyi \u00e7al\u0131\u015fmas\u0131 oldu\u011fu g\u00f6r\u00fclmektedir. Be\u015f ilkenin \u00fc\u00e7\u00fcn\u00fcn iyi \u00e7al\u0131\u015fma haliyle ilgili oldu\u011fu g\u00f6r\u00fclmektedir. Bu bak\u0131mdan dikkate de\u011fer bir noktan\u0131n belgenin Pentagon \u00e7al\u0131\u015fanlar\u0131ndan yapay zekaya \u201cteknik bir hakimiyet\u201d beklentisi i\u00e7inde oldu\u011fu g\u00f6r\u00fclmektedir. Bunun da ayn\u0131 zamanda yapay zek\u00e2n\u0131n kontrol edilemezli\u011fine dair olan bir korkuyu\/belirsizli\u011fi ima etti\u011fini s\u00f6yleyebiliriz. Son \u00fc\u00e7 ilkedeki \u201ctakip edilebilir, g\u00fcvenilir ve y\u00f6netilebilir\u201d \u015feklindeki ba\u015fl\u0131klar\u0131n endi\u015fe i\u00e7erdi\u011fi g\u00f6r\u00fclmektedir. \u00d6zellikle y\u00f6netilebilirlik ba\u015fl\u0131\u011f\u0131 alt\u0131nda de\u011finilen \u201cgerginlik yaratan istenmeyen davran\u0131\u015f\u201d ifadesinin yapay zek\u00e2 sistemlerinin devlet-devlet aras\u0131ndaki ili\u015fkilerde h\u0131zl\u0131 tepki vermelerinden dolay\u0131 gerginli\u011fi \u00f6nleyici tercihler yap\u0131lmas\u0131n\u0131 \u00f6nlemesi ile ilgili oldu\u011fu anla\u015f\u0131lmaktad\u0131r.<\/p>\n\n\n\n

Yine de \u00fc\u00e7\u00fcnc\u00fc ve be\u015finci ilkeler yapay zekay\u0131 kontrol eden de\u011fil de onunla muhatap olan bak\u0131m\u0131ndan d\u00fc\u015f\u00fcn\u00fcld\u00fc\u011f\u00fcnde ahlaki beklentiler olarak da g\u00f6r\u00fclebilir. Bu bak\u0131mdan yapay zekan\u0131n teknik olarak denetlenebilmesi ve istenmeyen davran\u0131\u015flar\u0131n\u0131n durdurulmas\u0131 bu iki ilkenin ahlaki yan\u0131n\u0131 te\u015fkil etti\u011fi d\u00fc\u015f\u00fcn\u00fclebilir. Kurul ilkelerin a\u00e7\u0131klamas\u0131nda, yapay zekay\u0131 geli\u015ftirme a\u015famas\u0131ndaki teknik g\u00f6zetimin bu sistemlerin uygun<\/em> ve sorumlu<\/em> kullan\u0131m\u0131n\u0131 beraberinde getirece\u011fini iddia etmektedir.<\/p>\n\n\n\n

Benzer bir \u015fekilde kurulun, g\u00fcvenilirlik ilkesini makine \u00f6\u011frenmesinin a\u00e7\u0131klanabilirli\u011fi<\/em> ile ili\u015fkilendirmesi de ahlaki bir endi\u015fe olarak okunabilir. Bir ki\u015finin m\u00fclkiyetine<\/em>, esenli\u011fine<\/em> veya hayat\u0131na<\/em> halel gelebilece\u011fi hallerde yapay zekan\u0131n tavsiye veya eyleminin a\u00e7\u0131klanabilir olmas\u0131<\/em> veya garanti sunmas\u0131<\/em> gerekmektedir. Kurula g\u00f6re bunlar\u0131n d\u0131\u015f\u0131ndaki hallerde a\u00e7\u0131klanabilirlik<\/em> veya garanti<\/em> ya az gerekmekte ya da hi\u00e7 gerekmemektedir. A\u00e7\u0131klanabilirli\u011fin<\/em> imk\u00e2n\u0131 ve m\u00fcmk\u00fcnse ne derecede m\u00fcmk\u00fcn oldu\u011fu konusu bir yana, kurul garanti sunmaktan<\/em> tam olarak neyi kastetti\u011fini yeterince a\u00e7\u0131klamamaktad\u0131r.<\/p>\n\n\n\n

Otonom silah sistemleri ve yapay zek\u00e2 sistemleri ile ilgili s\u0131k\u00e7a dile getirilen karar mekanizmas\u0131na insan m\u00fcdahalesi olmas\u0131 y\u00f6n\u00fcndeki ele\u015ftiri, metin yazarlar\u0131 taraf\u0131ndan benimsenmi\u015f g\u00f6r\u00fcnmektedir. Metin yapay zekan\u0131n geli\u015fimden-kullan\u0131m sonu\u00e7lar\u0131na kadarki t\u00fcm a\u015famalarda insanlar\u0131n uygun bir seviyede<\/em> karar mercii olarak konumland\u0131r\u0131lmas\u0131 ve buna binaen sorumlu tutulmalar\u0131 gerekti\u011fini ifade etmektedir. Literat\u00fcrde Heather Roff, Amerika\u2019n\u0131n \u201cuygun seviyede insan karar\u0131<\/em>\u201d \u015feklinde ifade etti\u011fi bu sistemin yapay zek\u00e2 sistemlerinin \u00fczerinde \u201canlaml\u0131 bir insan kontrol\u00fc<\/em>\u201d talebini fazla s\u0131n\u0131rlay\u0131c\u0131 buldu\u011fu ve ki\u015filerin sorumlulu\u011funa dikkat \u00e7ekti\u011fini ifade etmektedir. Ki\u015filerin sorumlulu\u011funa olan vurgunun kurulun a\u00e7\u0131klamalar\u0131nda da yer buldu\u011fu g\u00f6r\u00fclmektedir. Buna g\u00f6re silahl\u0131 \u00e7at\u0131\u015fma s\u0131ras\u0131ndaki yapay zek\u00e2 sisteminin kullan\u0131lmas\u0131 bak\u0131m\u0131ndan kumandan ve harekat\u00e7\u0131 ilgili yapay zek\u00e2 sisteminin davran\u0131\u015f\u0131 ve durumun \u015fartlar\u0131 hakk\u0131nda bilgi sahibi olup olmad\u0131klar\u0131na g\u00f6re sorumlu olacaklard\u0131r.<\/p>\n\n\n\n

Metnin ikinci ilkede adil muamele kapsam\u0131nda \u00f6nyarg\u0131lara yapt\u0131\u011f\u0131 at\u0131f, yapay zekan\u0131n geli\u015fimi s\u0131ras\u0131nda beslendi\u011fi verilerin veya dizayn edili\u015f \u015feklinin ayr\u0131mc\u0131l\u0131k yaratabilece\u011fi konusundaki ele\u015ftirilerden haberdar oldu\u011funu ve hatta bir anlamda bu ele\u015ftirileri kabul etti\u011fini g\u00f6stermektedir.<\/p>\n\n\n\n

2. \u00c7eviri<\/strong>
PENTAGON YAPAY ZEK\u00c2 AHLAK \u0130LKELER\u0130<\/strong>
31.10.2019<\/em>
Yapay zek\u00e2 kullan\u0131m\u0131n\u0131n, Amerikan Savunma Bakanl\u0131\u011f\u0131n\u0131n mevcut ahlaki sistemi i\u00e7erisinde ger\u00e7ekle\u015fmesi gerekti\u011fini ikrar etmekteyiz.<\/p>\n\n\n\n

Bu esasa binaen daha \u00e7ok yapay zekayla ilgili olan a\u015fa\u011f\u0131daki ilkeleri \u00f6nermekte ve ilkelerin hem muhabere hem de muhabere harici sistemlere uygulanaca\u011f\u0131na dikkat \u00e7ekmekteyiz.<\/p>\n\n\n\n

Yapay zek\u00e2 h\u0131zl\u0131 geli\u015fmekte olan bir aland\u0131r. Halihaz\u0131rda yapay zek\u00e2 sistemleri geli\u015ftiren veya bunlar\u0131 alanda kullanan ya da yapay zek\u00e2ya dair ahlaki ilkeler benimsemi\u015f hi\u00e7bir \u00f6rg\u00fct a\u015fa\u011f\u0131daki ilkelerde m\u00fcndemi\u00e7 zorluklar\u0131 \u00e7\u00f6zd\u00fc\u011f\u00fcn\u00fc iddia edemez.<\/p>\n\n\n\n

Yine de Bakanl\u0131k kendisinin yapay zek\u00e2 sistemlerini kullan\u0131m\u0131n\u0131n [a\u015fa\u011f\u0131daki ilkeler uyar\u0131nca] olaca\u011f\u0131na dair hedefini belirlemelidir.<\/p>\n\n\n\n

1. Sorumlu<\/em>: \u0130nsanlar; Amerikan Savunma Bakanl\u0131\u011f\u0131n\u0131n yapay zek\u00e2 sistemlerinin geli\u015ftirilmesi, konu\u015fland\u0131r\u0131lmas\u0131, kullan\u0131m\u0131 ve sonu\u00e7lar\u0131 \u00fczerinde yeterli seviyede karar alabilmeli ve sorumlu olmal\u0131d\u0131rlar.<\/p>\n\n\n\n

2. Adil<\/em>. Amerikan Savunma Bakanl\u0131\u011f\u0131, muhabere ve muharebe harici yapay zek\u00e2 sistemlerinin geli\u015ftirilmesi ve konu\u015fland\u0131r\u0131lmas\u0131 s\u0131ras\u0131nda kazara ki\u015filere zarar verecek istenmeyen \u00f6nyarg\u0131lar\u0131n olu\u015fmas\u0131n\u0131 \u00f6nlemek i\u00e7in dikkatli ad\u0131mlar atmal\u0131d\u0131r.<\/p>\n\n\n\n

3. Takip edilebilir<\/em>. Amerikan Savunma Bakanl\u0131\u011f\u0131n\u0131n yapay zek\u00e2 m\u00fchendislik disiplini yeterince geli\u015fmi\u015f olmal\u0131d\u0131r. \u00d6yle ki teknik uzmanlar Amerikan Savunma Bakanl\u0131\u011f\u0131n\u0131n yapay zek\u00e2 sistemlerinin -\u015feffaf ve denetlenebilir metodolojiler, veri kaynaklar\u0131, dizayn usul\u00fc ve belgeleme dahil olmak \u00fczere- \u00e7al\u0131\u015fma y\u00f6ntemlerinden, geli\u015ftirilme s\u00fcre\u00e7lerinden ve teknolojisinden yeterince anlamal\u0131d\u0131rlar.<\/p>\n\n\n\n

4. G\u00fcvenilir<\/em>. Amerikan Savunma Bakanl\u0131\u011f\u0131n\u0131n yapay zek\u00e2 sistemlerinin a\u00e7\u0131k ve iyi tan\u0131mlanm\u0131\u015f bir kullan\u0131m alan\u0131 olmal\u0131d\u0131r. Bu sistemlerin emniyeti, g\u00fcvenli\u011fi ve sa\u011flaml\u0131\u011f\u0131 kullan\u0131m alan\u0131ndaki t\u00fcm hayat d\u00f6ng\u00fcleri boyunca test edilmeli ve kesinle\u015ftirilmelidir.<\/p>\n\n\n\n

5. Y\u00f6netilebilir<\/em>. Amerikan Savunma Bakanl\u0131\u011f\u0131n\u0131n yapay zek\u00e2 sistemleri, istenilen i\u015flevi yerine getirmek \u00fczere dizayn edilmeli ve yap\u0131lmal\u0131d\u0131r. Ayn\u0131 zamanda istenmeyen zarar ve sorunu tespit edip \u00f6nleme becerisine sahip olmal\u0131 ve [ayr\u0131ca] konu\u015fland\u0131r\u0131lan sistemlerden gerginlik yaratan veya ba\u015fka bir istenmeyen davran\u0131\u015f g\u00f6sterenlerinin insan taraf\u0131ndan veya otomatik olarak geri \u00e7ekilme ya da devre d\u0131\u015f\u0131 b\u0131rak\u0131lma \u00f6zelli\u011fi olmal\u0131d\u0131r.<\/p>\n\n\n\n

Yazar<\/h2>\n\n\n\n

Dr. M. Behesti Aydo\u011fan<\/p>\n","protected":false},"excerpt":{"rendered":"

1. Giri\u015f2016\u2019da kurulan Pentagon Savunma \u0130novasyon Kurulu, 31 Ekim 2019 tarihinde genel olarak silahl\u0131 \u00e7at\u0131\u015fmalar hukuku, savunma sanayi ve yapay zek\u00e2 ili\u015fkisine dair oldu\u011funu s\u00f6yleyebilece\u011fimiz \u201cYapay Zek\u00e2 \u0130lkeleri: Savunma Bakanl\u0131\u011f\u0131n\u0131n Yapay Zek\u00e2y\u0131 Ahlaki Kullan\u0131m\u0131na Dair Tavsiyeler\u201d ba\u015fl\u0131kl\u0131 belgeyi yay\u0131nlam\u0131\u015ft\u0131r….<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[59,58,60,44],"class_list":["post-2425","post","type-post","status-publish","format-standard","hentry","category-genel","tag-ilkeler","tag-pentagon","tag-tavsiyeler","tag-yapay-zeka"],"_links":{"self":[{"href":"http:\/\/www.mmcelikpartners.com\/index.php\/wp-json\/wp\/v2\/posts\/2425","targetHints":{"allow":["GET"]}}],"collection":[{"href":"http:\/\/www.mmcelikpartners.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/www.mmcelikpartners.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"http:\/\/www.mmcelikpartners.com\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"http:\/\/www.mmcelikpartners.com\/index.php\/wp-json\/wp\/v2\/comments?post=2425"}],"version-history":[{"count":1,"href":"http:\/\/www.mmcelikpartners.com\/index.php\/wp-json\/wp\/v2\/posts\/2425\/revisions"}],"predecessor-version":[{"id":2426,"href":"http:\/\/www.mmcelikpartners.com\/index.php\/wp-json\/wp\/v2\/posts\/2425\/revisions\/2426"}],"wp:attachment":[{"href":"http:\/\/www.mmcelikpartners.com\/index.php\/wp-json\/wp\/v2\/media?parent=2425"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/www.mmcelikpartners.com\/index.php\/wp-json\/wp\/v2\/categories?post=2425"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/www.mmcelikpartners.com\/index.php\/wp-json\/wp\/v2\/tags?post=2425"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}