1 Tekrarlayan Ağ Tasarım Genetik Algoritma ve Parçacık Sürü Optimizasyonu Bir Hibrid DOĞA ESİNLİ HİBRİD YAKLAŞIMLAR Nurali RAHİMOV: 168229001021 Yrd.Doç.Dr. SAİT ALİ UYMAZ IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004

2 A Hybrid of Genetic Algorithm and Particle Swarm Optimization for Recurrent Network Design  Chia-Feng Juang (M'00), B.S. ve Ph.D. sırasıyla 1993 ve 1997'de National Chiao-Tung Üniversitesi, Hsinchu, Tayvan, R.O.C.'den kontrol mühendisliği dereceleri aldı. 1999-2001 yılları arasında Chung Chou Teknoloji Enstitüsü Elektrik Mühendisliği Bölümü Yardımcı Doçenti olarak görev yapmıştır. 2001'de, şu anda Elektrik Mühendisliği Doçenti olduğu Ulusal Chung Hsing Üniversitesi, Taichung, Tayvan, R.O.C'ye katıldı. Halihazırdaki araştırma konuları yumuşak hesaplama, akıllı kontrol, bilgisayar görme, konuşma sinyali işleme ve FPGA'dir. Dr. Juang, IEEE Sinir Ağı Topluluğunun, IEEE Sinyal İşleme Topluluğunun ve IEEE Sistemleri, İnsan ve Sibernoloji Cemiyetinin bir üyesidir IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004

3 Başlıklar  ÖZET  I.GİRİŞ  II. YİNELİ ŞEBEKELER  A. DÖNÜŞTÜRÜLÜ SİNİR AĞLARINI TAM BAĞLAYIN (FCRNN)  B. TSK TİPİ YİNEARİ BULANIK AĞLAR (TRFN)  III. ÖİB ve DPT  A. GAZ'IN TEMEL KAVRAMLARI  B. PSO'NUN TEMEL KAVRAMLARI  IV. GA VE PSO HİBRİDİ (HGAPSO)  V. DENEYSELLER  A. FCRNN TASARIMI  B. TREN TASARIMI  VI. SONUÇ  REFERANSLAR IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004

4 ÖZET  Bu makalede, tekrarlayan sinirsel / bulanık ağların tasarımını yeni bir evrimsel öğrenme algoritması kullanarak otomatikleştiren evrimsel tekrarlayan bir ağ önerilmektedir.  Bu yeni evrimsel öğrenme algoritması, genetik algoritma (GA) ve parçacık yığını optimizasyonu (PSO) 'nin bir hibridini temel alır ve buna HGAPSO denir.  HGAPSO'da, yeni nesil bireyler yalnızca GA'da olduğu gibi çaprazlama ve mutasyon işlemi ile değil aynı zamanda PSO tarafından oluşturulur. Elit strateji kavramı, bir nüfustaki en iyi performans gösteren bireylerin üst yarısının elit olarak gördüğü HGAPSO'da benimsenmiştir.  Bununla birlikte, direkt olarak bir sonraki kuşağa kopyalanmak yerine, bu seçkinler ilk önce geliştirilir. Seçkinler tarafından oluşturulan grup bir sürü olarak kabul edilir ve her elit, içindeki bir parçacığa karşılık gelir.  Bu bağlamda seçkinler doğadaki olgunlaşma olgusunu taklit eden bir operasyon olan PSO tarafından geliştirilmiştir. Bu gelişmiş seçkinler, yeni kuşaktaki nüfusun yarısını oluştururken, diğer yarısı bu gelişmiş seçkinler üzerinde çaprazlama ve mutasyon işlemi yaparak oluşturulur.  HGAPSO tekrar eden sinirsel / bulanık ağ tasarımına aşağıdaki gibi uygulanır. Tekrarlayan sinir ağı için, tamamen bağlı tekrarlayan sinir ağı tasarlanır ve zamansal bir dizi üretim problemine uygulanır. IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004

5  Evrimsel hesaplamanın ADI, sinir ağlarının ve bulanık sistemlerin optimal dizaynı gibi, optimizasyon problemi çözümü için yeni kaynaklara ilham kaynağı olmuştur.  Doğru ve tam hesaplamada iyi olabilecek, ancak kırılgan operasyonları olan geleneksel hesaplama sistemlerinin aksine, evrimsel hesaplama karmaşık gerçek dünya problemlerini çözmek için daha sağlam ve verimli bir yaklaşım sağlar [1] - [3].  Genetik algoritma (GA) [4], genetik programlama [5], evrimsel programlama [6] ve evrim stratejileri [7] gibi birçok evrim algoritması önerilmiştir.  Sezgisel ve stokastik olduklarından, yerel minimumda sıkışıp kalma olasılıkları daha düşüktür ve biyolojik fenomene benzer belirli bir davranışa sahip bireylerden oluşan popülasyonlara dayanırlar.  Bu ortak özellikler, giderek artan bir önemli alan olarak evrimsel hesaplamanın geliştirilmesine yol açtı. GİRİŞ IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004

6 II. Tekrarlayan AĞLAR  Bu bölümde, tekrar eden sinir ağı ve HGAPSO tarafından tasarlanacak tekrarlayan bulanık ağlar tanıtılıyor.  Dizayn edilen yineleyici sinir ağı Bölüm II-A'da tanıtıldığı gibi tamamen bağlı tekrarlayan sinir ağıdır (FCRNN).  Bölüm II-B'de tekrarlayan bir bulanık ağ, TSK tipi tekrarlayan bulanık ağ (TRFN) tanıtıldı. IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004

7 A. Tam Bağlı Yeniden Yapılan Sinir Ağı (FCRNN) FCRNN'nin mimarisi Şekil 1'de gösterilmektedir. FCRNN'de, her düğüm kendine ve diğer tüm düğümlere bağlıdır. Bireysel düğümler, giriş düğümleri, çıktı düğümleri, ne veya her ikisi olabilir. Arzu edilen çıktılar di (t) genellikle belirli zamanlarda belirli düğümlerde tanımlanır. Sırasıyla düğüm girişini ve çıkışını Yi ve Xi olarak belirtin. FCRNN'deki düğümler, Burada Ti, gevşeme zaman ölçeği ve burada kullanılan aktivasyon fonksiyonu bir unipolar sigmoid fonksiyonudur a (h) = 1 / (1 + exp (-h)). Bilgisayar simülasyonunda, (1) 'teki türev birinci dereceden farkla yaklaştırılır ve denklem Burada hi (t) = Ei wij yi (t) -0,5, düğüme net giriştir. [40], [41] 'de geçici sıralı üretim için GAS ile FCRNN tasarımları yapılmaktadır. Bununla birlikte, bu makalede, HGAPSO tarafından aynı görevi yerine getiriyoruz ve üstünlüğünü sergiliyoruz. IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004

8 B. TSK Tipi Tekrarlayan Bulanık Şebeke (TRFN) Tasarlanacak olan TRFN, TSK-tipi sonuç bölümleri ile tekrar eden bulanık if-then kurallarının bir dizisinden inşa edilmiştir [27]. [27] 'de, dinamik bitki tanımlama ve kontrol de dahil olmak üzere, uzaysal-zamansal problemlerde TRFN'nin yineleyici sinir ağına üstünlüğü gösterildi. TRFN'nin yapısı Şekil 2'de gösterilmiştir. 1. katmandaki düğümler giriş düğümleridir. Katman 2'deki düğümler, giriş bulanık dil değişkenlerini ifade etmek için üyelik işlevleri olarak işlev görür. Bu katmanda iki çeşit üyelik fonksiyonu kullanılır. Harici değişken, yerel üyelik fonksiyonu için Gauss üyelik fonksiyonu kabul etti.

9 B. TSK Tipi Tekrarlayan Bulanık Şebeke (TRFN)  İç değişken, global üyelik fonksiyonu için sigmoid fonksiyonu kabul etti. Her dahili değişkenin tek bir bulanık kümesi vardır. 3. katmandaki her düğüm bir kural düğümüdür ve 4. kattaki düğümlere sonuç düğümleri denir.  Her kural düğümü, x ve h girdi değişkenlerinin ve sabitin ağırlıklı doğrusal bir kombinasyonunu gerçekleştiren karşılık gelen bir sonuç düğümüne sahiptir. Katman 5'deki düğümlere bağlamsal düğümler denir ve bulanıklaştırma işlemi gerçekleştirilir.  Bu katmandaki iç değişken h sayısı kural düğümlerine eşittir. 6. katmanda, düğüme bir bulanıklaştırma düğümü denir.  TRFN'de tekrar eden mülkiyet, bulanık ateş kuvvetlerinden türetilen iç değişkenlerin ağ giriş ve çıkış katmanlarına geri beslenmesinden gelir.  Bu yapılandırmada, her iç değişken, ilgili bulanık kuralının geçici geçmişini ezberlemekle sorumludur.  Dahili değişken, her kural sonucunda harici giriş değişkenleriyle de birleştirilir. IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004

10  TRFN'deki kuralların ve harici girdilerin Ni'sini içeren x1 ~ xn tekrar eden bulanık bulanık kural şu şekildedir: B. TSK Tipi Tekrarlayan Bulanık Şebeke (TRFN) IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004  A ve B bulanık kümeler halinde, w ve a sırasıyla çıkarım çıktıları h ve y için sonuç parametreleridir.  Harici çıkış y için sonuç bölümü TSK-tipi olup harici giriş değişkenleri x ve iç değişkenler h'nin ve sabitin doğrusal bir birleşimidir.

11 III. GAs ve PSO  Önerilen HGAPSO, GA'yı PSO ile bir araya getirerek melez bir GA oluşturmaktadır [4].  Mevcut algoritmalarla bir GA'nın bu karması, GA veya mevcut algoritmalardan yalnızca daha iyi bir algoritma üretebilir [43] - [46].  Bu bölümde, GA'lar ve PSO'nun temel kavramları tanıtılıyor ve ardından bir sonraki bölümde HGAPSO'nun ayrıntılı bir tanıtımı yapılmıştır. IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004

12 A. GAs Temel Kavramları  GA'da belirli bir probleme yönelik aday bir çözüme bireysel ya da kromozom denir ve doğrusal bir genler listesinden oluşur. Her bir kişi arama alanındaki bir noktayı temsil eder ve dolayısıyla soruna olası bir çözüm sunar.  Bir nüfus sınırlı sayıda kişiden oluşur. Her birey, uygunluk değerini elde etmek için değerlendirme mekanizması tarafından kararlaştırılır.  Bu uygunluk değerine dayanarak ve genetik operatörler geçerek, ardışık olarak her kuşağın nesil olarak adlandırılan yeni bir popülasyon yineleyerek üretilir.  GAs, bir popülasyonun genetik kompozisyonunu değiştirmek için üç temel operatör (üreme, çaprazlama ve mutasyon) kullanır.  Üreme, mevcut nesildeki en beğenilen bireylerin yeni nesilde çoğaltılmasını sağlayan bir süreçtir.  Çapraz operatör, iki ebeveyndeki bilgileri tekrar birleştirerek iki kapalı yay üretir (yeni aday çözümleri). IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004

13  Bu işlemde iki işleme basamağı vardır.  İlk adımda, belirli sayıda geçiş bölgesi, ana kişiyle birlikte rasgele seçilir.  İkinci adımda, seçilen siteler arasında alternatif seçilen çiftleri değiştirerek iki yeni kişi oluşturulur.  Mutasyon, bir bireyde bazı gen değerlerinin rasgele değiştirilmesidir. Her genin alleli, mutasyon için bir adaydır ve fonksiyonu, mutasyon olasılığı ile belirlenir. Geleneksel Gazın geliştirilmesi konusundaki pek çok çaba önerilmiştir [47].  Bunlardan birinde, bir kategori, dağınık GA [49], hücresel GA [50] ve simbiyotik GA [51] gibi popülasyonun yapısını veya bir bireyin içinde oynadığı rolü [48] - [51] değiştirmeye odaklanmaktadır. Başka bir kategori, geleneksel GA'ların geçiş veya mutasyon gibi temel işlemlerini değiştirmeyi amaçlamaktadır [52] - [54]. IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004 A. GAs Temel Kavramları

14 B. PSO'nun Temel Kavramları  PSO, GA'daki bireylere karşılık gelen bir parçacık popülasyonu kullanarak arama yapar. Parçacık popülasyonu başlangıçta rastgele oluşturulur. Her parçacık potansiyel bir çözümü temsil eder ve bir konum vektörü xi ile temsil edilen bir konuma sahiptir.  Parçacık yığını, problem alanından geçer ve her parçacığın hareket hızı ui hız vektörü ile temsil edilir.  Her zaman adımında, kalite ölçüsünü temsil eden bir fonksiyon fi, xi girdisi kullanılarak hesaplanır.  Her parçacık, şimdiye kadar bir vektör pi'sinde elde ettiği en iyi fitness ile bağlantılı olan kendi en iyi konumunu takip eder. Ayrıca, şimdiye kadar nüfusta elde edilen tüm parçacıklar arasında en iyi konum pg olarak kaydedilmektedir.  Bu genel sürüme ek olarak, PSO'nun başka bir yerel sürümü, bir parçacığın tüm topolojik komşuları arasında en iyi konumu izler. IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004

15  Her zaman adım t, bireysel en iyi konum, pi (t) ve küresel en iyi konum, pg (t) kullanılarak partikül i için yeni bir hız güncellenir  Burada c1 ve c2 pozitif sabitler ve ф1 ve ф2 eşit olarak dağıtılan rastgele sayılardır [0, 1]. Ui terimi + umax aralığı ile sınırlıdır. Hız bu sınırı ihlal ederse, uygun sınırına ayarlanır. Bu şekilde hız değiştirme i parçacığının kendi en iyi konumunu, pi'sini ve global en iyi konumu, pg etrafında arama yapmasını sağlar.  Güncellenen hızlara bağlı olarak, her bir parçacık, konumunu aşağıdakilere göre değiştirir: B. PSO'nun Temel Kavramları IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004  (6) ve (7) 'ye dayanarak, parçacıkların popülasyonu, her parçacık rasgele bir yönde hareket ederek birlikte kümelenme eğilimi gösterir.  PSO'nun hesaplanması kolaydır ve GA'ya dahil edildiğinde yalnızca hafif bir hesaplama yükü ekler. Ayrıca, PSO'nun problem alanının yerel ve global araştırılması arasındaki dengeyi kontrol etme esnekliği, GA'daki seçkin stratejinin erken vade birleşiminin üstesinden gelmeye yardımcı olur ve arama yeteneğini de arttırır. Bir sonraki bölümde, GA ile PSO'nun hibrid için ayrıntılı algoritması tanıtıldı.

16  Yinelenen ağların HGAPSO tarafından ayrıntılı tasarım algoritması üç büyük operatörden oluşur: iyileştirme, çaprazlama ve mutasyon. Bu operatörlerin detaylarını açıklamadan önce, kodlama ve başlatma konuları sunulmuştur.  Kodlama, yineleyici ağların ağırlıklarının bireyler tarafından gösterilme şekli ile ilgilidir; oysa başlatma, öğrenme sabitlerinin evrim sürecine girmeden önce doğru şekilde atanmasıdır. Genel öğrenme süreci aşağıda adım adım anlatılmaktadır.  Kodlama. Bir kayan nokta kodlama şeması burada benimsenmiştir. FCRNN kodlaması için N düğümleri olduğunu varsayalım, kodlanacak toplam ağırlık sayısı N2; yani ağırlıklar bir kişiye kodlanmalıdır. Bir FCRNN'nin bir bireye kodlanması aşağıdaki gibidir: IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004 IV. GA VE PSO HİBRİDİ (HGAPSO)

17  TRFN için kodlanacak olan serbest parametreler m, o, w ve. Çoğu mevcut genetik bulanık sistemlerde [56], [57] olduğu gibi giriş alanına bir ızgara tipi bölüm kullanmak yerine esnek bir harici giriş alanı bölümü benimsenmiştir, bu nedenle her harici giriş değişkeninde üyelik fonksiyonları sayısı A'dır. toplam kural numarası Nt'ye eşittir.  Farklı uygulama problemlerinde uniformitenin kodlanması için, her bir harici girdi verisinin x değeri -1 ile 1 arasında olacak şekilde ölçeklendirilir. Ölçekten sonra, m ve o'nun başlangıç ​​değerleri, karşılık gelen aralık aralıkları içinde rasgele olarak atanır ve [ 0.05, 0.75].  Arama aralığı [-1,1] içinde üyelik işlevinin konumu ve genişliği üzerinde herhangi bir sınırlama yoktur. Geometrik olarak, her bireysel Nr için, rasgele oluşturulmuş kurallar, mekansal girdi alanındaki Nt kümelerine karşılık gelir.  Bu kümeler, giriş alanı bölgesinde keyfi yerlerde bulunabilir ve esnek bir bölme elde edilir. TRFN'de tek bir çıktı olduğunu varsayalım, o halde her birey aşağıdaki formda olacaktır IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004 IV. GA VE PSO HİBRİDİ (HGAPSO)

18 IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004 Flow of HGAPSO. IV. GA VE PSO HİBRİDİ (HGAPSO)

19  Arama aralığı [-1,1] içinde üyelik işlevinin konumu ve genişliği üzerinde herhangi bir sınırlama yoktur. Geometrik olarak, her bireysel Nr için, rasgele oluşturulmuş kurallar, mekansal girdi alanındaki Nt kümelerine karşılık gelir.  Bu kümeler, giriş alanı bölgesinde keyfi yerlerde bulunabilir ve esnek bir bölme elde edilir. TRFN'de tek bir çıktı olduğunu varsayalım, o halde her birey aşağıdaki formda olacaktır: IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004  Toplam Nt (Nt + 3n + 2) geni olduğu yerde. Bireye kodlanmış parametrelerin sırası aşağıdaki gibidir.  İlk olarak, kural 1 için, girdi değişkenlerinin 1'in ortalama m ve standart değişimi o, kodlanır ve onu takip eden bölüm parametreleri a10 ~ a1n + 1 izler. Kural 1'in ardından, kurallar 2 ila Nt aynı şekilde kodlanır. IV. GA VE PSO HİBRİDİ (HGAPSO)

20  Başlatma.  HGAPSO'da, GA ve PSO aynı nüfusa sahipler. Başlangıçta, popülasyonu oluşturan Ps bireyleri rasgele üretilmelidir. Bu kişiler, GA açısından kromozom olarak veya PSO açısından parçacık olarak kabul edilebilir.  FCRNN'de, sinirsel düğümlerin sayısı, N ve TRFN'de toplam kural sayısı, Nr önceden belirlenmelidir. Buna ek olarak, PSO'da c1 ve c2 gibi öğrenme parametreleri ve mutasyon olasılığı Pm önceden verilmelidir.  Başlatma sonrasında, yeni nesil yeni kişiler güçlendirme, çaprazlama ve mutasyon işlemleri ile yaratılır. Açıklık açısından, bu işlemlerin akışı Şekil 3'te gösterilmektedir. IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004 IV. GA VE PSO HİBRİDİ (HGAPSO)

21  Artırma: Her kuşakta, aynı popülasyondaki tüm bireylerin uygunluk değerlerinin hesaplanmasından sonra, en iyi performans gösterenlerin en üstteki yarısı işaretlenir. Bu kişiler seçkinler olarak görülüyor. Elit GAs'ın yaptığı gibi elitleri direkt olarak bir sonraki kuşağa aktarmak yerine elitleri geliştiririz. Geliştirme işlemi, bireylerin topluluktan bilgi edintikten sonra çevreye daha uygun hale gelecekleri doğadaki olgunlaşma olgusunu taklit etmeye çalışır.  Üstelik, bu gelişmiş seçkinleri ebeveyn olarak kullanarak, üretilen yaylar orijinal seçkinler tarafından üretilenlerden daha iyi bir performans elde edecektir. O halde, PSO tarafından işlenen aynı neslin bireylerini nasıl artıracaklarının bir problemi var. Burada, seçkinler tarafından oluşturulan grup bir sürü olarak kabul edilebilir ve her elit, içindeki bir parçacığa karşılık gelir.  PSO'da, aynı neslin bireyleri, kendi özel bilişlerine ve birbirleriyle sosyal etkileşimlere dayalı olarak kendilerini geliştirirler.  HGAPSO'da, bu tekniği olgunlaşma fenomeni olarak benimsiyoruz ve kabul ediyoruz. PSO'ya dayanarak, elitlere (6) ve (7) uygulanabilir. IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004 IV. GA VE PSO HİBRİDİ (HGAPSO)

22  Karşıdan karşıya geçmek. İyi performans gösteren bireyler üretmek için, crossover işleminde ebeveynler sadece gelişmiş seçkinler arasından seçilir. Çaprazlaştırma işlemi için ebeveynleri seçmek için, iki gelişmiş elitin rasgele seçildiği ve bir ebeveyn olarak daha iyi fitness değerine sahip seçkinlerin seçilmesi için uygunluk değerleri karşılaştırılan turnuva seçim şeması kullanılır. Sonra diğer ebeveyn aynı şekilde seçilir. Seçilen ebeveynlerde çaprazlama yapılarak iki yay oluşturulur. IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004 IV. GA VE PSO HİBRİDİ (HGAPSO)

23  Yaygın olarak kullanılan crossover tekniklerinin bazıları - crossover alanların rastgele bir bireyin aralığı içerisinde seçildiği ve takas oluştuğu nokta crossover'dır; ve iki ebeveynin doğrusal bir kombinasyonunu kullanarak yavruları üreten düz geçit.  Bu çalışmada iki nokta çapraz operasyon kullanılmıştır. FCRNN'de iki çapraz site rastgele seçilir. Daha sonra ebeveynler çaprazlanır ve Şekil 4'te gösterildiği gibi iki bölgede ayrılırlar. TRFN için bir crossover sitesi, mekansal kuralı ilişkileri için kodlanmış gen konumunda rasgele bulunur, diğeri ise şematik kural sonuçları için Şekil 5. IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004 IV. GA VE PSO HİBRİDİ (HGAPSO)

24  Mutasyon.  HGAPSO'da, mutasyon, çaprazlama işlemi ile birlikte oluşur. Dolayısıyla, mutasyon, bir genin alelinin rastgele değiştirildiği, popülasyona yeni genetik materyallerin sokulabileceği bir operatördür.  Bununla birlikte, mutasyon rastgele bir arama operatörü olduğundan, az miktarda kullanılmalıdır; Aksi takdirde, yüksek mutasyon oranları ile algoritma rastgele bir aramadan daha fazla olur. Burada, tek biçimli mutasyon kabul edilir, yani, mutasyona uğramış gen, rastgele, tekabül eden arama aralığından düzgün bir şekilde çizilir.  Aşağıdaki simülasyonlarda sabit bir mutasyon olasılığı kullanılır. [53] 'de görülen gibi diğer adaptif mutasyon stratejileri, performansı daha da artırmak için kabul edilebilir IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004 IV. GA VE PSO HİBRİDİ (HGAPSO)

25 V. SİMÜLASYONLAR  Bu bölümde, HGAPSO, FCRNN ve TRFN tasarımına uygulanmaktadır.  FCRNN tasarımı için amaç geçici bir dizilim üretmektir; TRFN tasarımı için hedef dinamik bir bitkiyi kontrol etmektir.  HGAPSO'nun üstünlüğünü göstermek için, her benzetimde HGAPSO'nun performansı GA ve PSO ile karşılaştırılmıştır.  A. FCRNN'nin Tasarımı  B. TRFN'nin Tasarımı IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004

26 A. FCRNN'nin Tasarımı  Bu bölümde, HGAPSO zamansal dizi üretimi için bir FCRNN eğitmek için kullanılır.  Örnek 1: Tasarlalacak FCRNN için harici bir giriş yoktur; yani (1) 'de x1 (t) = 0'dır. Y1 (0) 'ın başlangıç değerleri 0.5'e ayarlanır. Gevşeme zaman ölçeği Ti, 1'e ayarlanır ve ayrık zaman t = 0.1 adım kullanılır.  Hiçbir giriş düğümü, 23 gizli düğüm ve iki çıkış düğümü, diğer bir deyişle N = 25 olan FCRNN, tümüyle tam bağlıdır ve zaman aralığında (t0, tl] = (4,20) aşağıdaki iki yörünge üretmek üzere eğitilir.  y r1 (t) = 0.35 sin (0.5t) sin (1.5t)  y r2 (t) = 0.35 cos (0.5t) sin (1.5t)  Bu nedenle, şebeke çıkış durumu, t0 = 4'de istenen yörüngede olması ve daha sonra istenen yörüngeyi takip etmesi gereklidir.  İki çıkış düğümünün çıktıları sırasıyla y24 (t) ve y25 (t) olarak gösterilir. IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004

27  Eğitim sırasında, zaman aralığında (4, 20] kök ortalama karekteri hatası (RMSE) hesaplanır ve uygunluk değeri 1 / RMSE olarak tanımlanır.  HGAPSO'nun uygulanmasında başlangıçta bir popülasyonda 200 birey rasgele oluşturulur, yani Ps = 200. Her bireyde 25x25 gen vardır ve başlangıç ağırlıkları wij, 10 ila -10 arasındaki tekdüze rasgele değerlerdir. Parametreler c1, c2 ve x sırasıyla 1, 1 ve 0.8 olarak ayarlanır.  Evrim 1200 nesiller için işlenir ve 50 deneme için tekrarlanır. Her jenerasyon için 50 den fazla ortalama süredeki ortalama RMSE değeri Şekil 6'da gösterilmiştir. 1200 nesil eğitimden sonra yapılan 50 çalışma için en iyi ve ortalama RMSE'ler Tablo I'de listelenmiştir. Öğrenilen sonucu göstermek için, iki FCRNN tarafından üretilen yörüngeler Şekil 7'de gösterilmektedir. Şekil 7'den, FCRNN'nin, eğitimin gerçekleştirilmediği yerde t1 = 20'den sonra bile iki periyodik yörüngeden öğrenip üretebileceğini görüyoruz. IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004 A. FCRNN'nin Tasarımı

28  HGAPSO'nun etkinliğini ve verimliliğini göstermek için GA ve PSO tarafından tasarlanan FCRNN aynı soruna uygulanır. Buna ek olarak, bir eğim iniş tabanlı öğrenme algoritması, TDRB, simüle edilir. GA'da, popülasyonun büyüklüğü ve başlangıçtaki bireyler HGAPSO'da kullanılanlarla aynıdır.  Geçiş ebeveynleri yalnızca seçkinlerden değil tüm toplumdan seçilir ve turnuva seçimi kullanılır. Her neslin en iyi bireyinin sonraki nesillere kopyalanacağı elit strateji kullanılır. İki çapraz olasılık, Pc = 0.5 ve Pc = 0.8, sırasıyla simüle edildi. A. FCRNN'nin Tasarımı IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004

29 A. FCRNN'nin Tasarımı IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004 Fig.7. Desired (solid line) and actual temporal sequence (–) generated by FCRNN designed by HGAPSO in Example 1.(a) Temporal sequence 1.(b) Temporal sequence 2

30  TABLE I PERFORMANCE COMPARISONS FOR DIFFERENT METHODS OF FCRNN DESIGN FOR TEMPORAL SEQUENCE PRODUCTION IN EXAMPLE 1 A. FCRNN'nin Tasarımı IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004  HGAPSO gibi mutasyon olasılığı Pm de 0.1'dir.  Her iki çapraz olasılığın 50 çalışmadan sonraki tasarım sonuçları Tablo I'de listelenmiştir.  Pc = 0.5 olan her jenerasyon için ortalamalı en iyi RMSE Şekil 6'da gösterilmektedir.  Tablo I'den, HGAPSO'nun hem ortalama hem de en iyi RMSE'lerinin GA'nınkinden daha küçük olduğunu görüyoruz.

31 B. TREN TASARIMI  HGAPSO tarafından tasarlanan TRFN tarafından dinamik sistem kontrolü bu alt bölümde simüle edilmiştir. Dinamik sistem kontrolü problemi için, kesin kontrolör giriş-çıkış eğitimi verisi elde etmek ya da elde etmek için pahalı olduğundan, HGAPSO kontrolör tasarımı için benimsenmiştir. İki örnek, bir tanesi çok girişli tek çıkışlı (MISO) diğeri çok girişli çoklu çıkışlı (MIMO) bitki kontrolü için simüle edilmiştir.  Örnek 2. (MISO Kontrolü): Kontrollü bitki [58], [27] 'de kullanılan fabrika ile aynıdır ve  TRFN kontrol cihazını tasarlarken, istenen çıktı, aşağıdaki 250 veri parçası tarafından belirlenir; IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004

32  Spor değeri 1 / RMSE olarak tanımlanır. Evrim 100 nesil boyunca işlenir ve 100 kez tekrarlanır. 100 nesil eğitimden sonra 100 çalışma için en iyi ve ortalama RMSE hatası Tablo II'de listelenmiştir. Kontrol sonucunu göstermek için Şekil 9'da bir kontrol sonucu gösterilmiştir. HGAPSO'nun etkinliğini ve verimliliğini göstermek için, GA ve PSO tarafından tasarlanan TRFN, aynı kontrol problemine uygulanmıştır. Kullanılan GA, örnek 1'de kullanılanla aynıdır. Nüfus büyüklüğü 50'ye ayarlanmıştır. Fig. 9. Control performance of TRFN designed by HGAPSO in Example 2; the reference output is denoted by a solid curve and the actual output by a dotted curve. B. TREN TASARIMI

33  TABLO II: ÖRNEK 2'DE DİNAMİK BİTKİ KONTROL SORUNU İÇİN MISO TRFN KONTROL TASARIMININ FARKLI YÖNTEMLERİ İÇİN PERFORMANS KARŞILAŞTIRMALARI. B. TREN TASARIMI IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004  Pc = 0.5 ve Pc = 0.8, simüle edildi. HGAPSO gibi mutasyon olasılığı Pm de 0.1'dir. 100 çalışma sonunda tasarım sonuçları Tablo II'de listelenmiştir. Pc = 0.5 olan her jenerasyon için ortalamalı en iyi RMSE, Şekil 10'da gösterilmiştir.  Tablo II'den, HGAPSO'nun hem ortalama hem de en iyi RMSE'lerinin açıkçası GA'nınkinden daha küçük olduğunu görüyoruz.  PSO'da, nüfus boyutu Ps, parametreler c1, c2 ve x, HGAPSO'da kullanılanlarla aynıdır.

34  100 çalışma sonunda tasarım sonuçları Tablo II'de listelenmiştir. Her iterasyonda çözümün sağladığı en iyi RMSE'nin ortalaması da Şekil 10'da gösterilmiştir.  Karşılaştırma sonuçlarına göre, örnek 1'deki gibi, PSO'nun ortalama ve en iyi RMSE'leri GA'nınkinden daha küçük ancak yine de HGAPSO'nun RMSE'lerinden daha büyüktür.  Örnek 3 (MIMO Kontrolü): Kontrol edilecek MIMO tesisi [58] tarafından verilir. B. TREN TASARIMI IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004 Kontrol edilen çıktılar, istenen çıktıları takip etmeli ve aşağıdaki 250 veri parçası tarafından belirtilmelidir: Y r1 (k) = sin ( kл/45) Y r2 (k) = cos ( kл/45)

35 TABLO III: ÖRNEK 3'teki DİNAMİK BİTKİ KONTROL SORUNU İÇİN MIMO TRFN KONTROLÖR TASARIMININ FARKLI YÖNTEMLERİ İÇİN PERFORMANS KARŞILAŞTIRMALARI  300 nesil eğitimden sonra 100 çalışma için en iyi ve ortalama RMSE hatası Tablo III'de listelenmiştir. Kontrol sonucunu göstermek için bir kontrol performansı Şekil 11'de gösterilmektedir.  HGAPSO'nun etkinliğini ve verimliliğini göstermek için GA ve PSO tarafından tasarlanan TRFN aynı kontrol problemine uygulanır. Kullanılan GA ve PSO, örnek 1'de kullanılanlarla aynıdır ve hem GA hem de PSO için tasarım sonuçları Tablo III'de listelenmiştir.  GA için ve PSO'lu için ortalama en iyi uzaktan kumanda RMSE değeri Şekil 11'de gösterilmektedir.  Tablo III'den, HGAPSO'nun hem ortalama hem de en iyi RMSE'lerinin GA ve PSO'lardan daha küçük olduğunu görüyoruz. B. TREN TASARIMI IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004

36 SONUÇ  Bu yazıda, yeni bir evrimsel algoritma olan HGAPSO'nun tekrarlayan ağ tasarımı önerilmiştir. HGAPSO doğada olgunlaşma olgusu kavramını başlangıçta GA tarafından modellenen bireylerin evrimine sokar.  Olgunlaşma olgusu, bireylerin kendilerini sosyal etkileşimlere ve onların özel bilişlerine dayalı olarak geliştirdikleri PSO ile taklit edilir.  PSO perspektifinden, HGAPSO crossover operasyonunu topluma tanıtmaktadır. Dolayısıyla, bireylerin evrimi aynı kuşakta olmakla sınırlı değildir ve daha iyi uygulanan bireyler, düşük performansa sahip olanların yerini alacak bireyler üretebilir.  Bu nedenle, HGAPSO, hayvanların toplumsal davranışlarını, ıslahını ve hayatta kalmasını taklit eden hem GA hem de PSO'nun yeni bireysel nesil işlevini birleştirir.  HGAPSO'nun performansını göstermek için tekrarlayan sinirsel ve tekrarlayan bulanık ağ tasarımı tasarlanır.  FCRNN ile zamansal dizi üretimi ve TRFN tarafından dinamik bitki kontrol problemlerinin sonuçları, HGAPSO'nun GA ve PSO üzerindeki üstünlüğünü göstermektedir. IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004

37 R EFERENCES  [1] T. Bäck and H. P. Schwefel, “An overview of evolutionary algorithms for parameter optimization,” Evolutionary Comput., vol. 1, no. 1, pp. 1–23, 1993.  [2] D. B. Fogel, Evolutionary Computation: Toward a New Philosophy of Machine Intelligence. Piscataway, NJ: IEEE Press, 1995.  [3] X. Yao, Ed., Evolutionary Computation: Theory and Applications, Singapore: World Scientific, 1999.  [4] D. E. Goldberg, Genetic Algorithms in Search Optimization and Machine Learning. Reading, MA: Addison-Wesley, 1989.  [5] J. K. Koza, Genetic Programming: On the Programming of Computers by Means of Natural Selection. Cambridge, MA: MIT Press, 1992.  [6] L. J. Fogel, “Evolutionary programming in perspective: The top-down view,” in Computational Intelligence: Imitating Life, J. M. Zurada, R. J. Marks II, and C. Goldberg, Eds. Piscataway, NJ: IEEE Press, 1994. IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS—PART B: CYBERNETICS, VOL. 34, NO. 2, APRIL 2004

38 THANK YOU