Zezwala się na korzystanie z artykułu na warunkach licencji Creative Commons Uznanie autorstwa 3.0

Artykuł recenzowany nadesłany 04.08.2015 r., przyjęty do druku 03.09.2015 r.

DOI: 10.14313/PAR_217/15

Interfejs mózg–komputer w zadaniu sterowania robotem mobilnym

Magdalena Górska

Polprox Sp. z o.o., ul. Bogatki 5, 02-837 Warszawa

Mariusz Olszewski

Politechnika Warszawska, Wydział Mechatroniki, Instytut Automatyki i Robotyki, ul. św. Andrzeja Boboli 8, 02-525 Warszawa

Streszczenie: W artykule przedstawiono nowoczesną metodę komunikacji między człowiekiem a maszyną, w której wykorzystane są potencjały mózgowe – interfejs mózg–komputer. Opisano rozwój i właściwości metod komunikowania ludzkiego mózgu z urządzeniami i maszynami. Zaprezentowano projekt interfejsu, jakiego użyto do sterowania ruchem robota mobilnego. Aplikacja wykorzystuje elektroencefalografię, rolę sensora pełni komercyjny kask z suchymi elektrodami, umożliwiający pomiar poziomu pobudzenia i relaksu.

Słowa kluczowe: interfejs mózg–komputer, elektroencefalografia, robot mobilny, sterowanie przy pomocy ludzkiego mózgu

1. Wprowadzenie

Robotyka mobilna jest najsilniej rozwijającym się działem współczesnej robotyki. Wynika z to kilku przyczyn. Pierwszą są doświadczenia zebrane w trakcie przeszło 50-letniego okresu rozwoju robotyki przemysłowej, upowszechnienia jej obszarów aplikacji oraz pewnej, niezamierzonej zresztą, standaryzacji rozwiązywań w odniesieniu do wspomnianych aplikacji. Drugą są ekstremalnie zróżnicowane środowiska pracy człowieka, które także, w odniesieniu do zebranych doświadczeń przemysłowych, domagają się zastępowania lub wspomagania jego obecności na lądzie, w wodzie i w powietrzu. Wreszcie trzecią przyczyną jest zainteresowanie bioniką jako nauką zajmującą się wykorzystaniem procesów biologicznych w technice, szczególnie procesów ruchu oraz budowaniem urządzeń technicznych na wzór organizmów żywych. Samo pojęcie bioniki jako nauki pojawiło się na jednej z już nieco zapomnianych konferencji naukowych w 1960 r. w Dayton w Stanach Zjednoczonych, wykorzystanie jej umożliwił dopiero rozwój mechatroniki, która w ostatnim dziesięcioleciu zapewniła bionice próby praktycznej realizacji w technice.

Maszyny lokomocyjno-manipulacyjne robotyki mobilnej należą do typowych, jednocześnie najbardziej spektakularnych rozwiązań mechatronicznych. Istotą tych rozwiązań jest synergiczne połączenie zaawansowanych mechanizmów ruchu, sterowania procesorowego wraz z programowaniem, koordynacją, nadzorem i optymalizacją realizowanych procesów oraz systemowego myślenia przy ich projektowaniu i wytwarzaniu z elementów i zespołów pochodzących z różnych dziedzin techniki. Są to zasadnicze różnice w porównaniu z konwencjonalnymi rozwiązaniami elektromechanicznymi. Natomiast podobna w rozwiązaniach konwencjonalnych i mechatronicznych jest rola ich operatora i użytkownika. Wymaga ona umiejętności wprowadzania informacji programowych i dyspozycji za pomocą przycisków, pokręteł, drążków i kierownic pulpitów oraz paneli sterowniczych, a w przypadku wspomagania komputerowego – klawiatur, myszy i monitorów dotykowych [2]. Ogólnie – jest to wykorzystanie procesów myślowych mózgu człowieka, wykształconych lub specjalistycznie nauczonych, przekształconych w jego układzie nerwowym na ruch jego układu mięśniowo-szkieletowego, z całym bagażem możliwych błędów popełnianych w trakcie kolejnego przekształcania tego ruchu na przemieszczanie lub inne działanie elementów sterowania urządzeń technicznych. Choć popularne ostatnio interfejsy wizyjne lub głosowe wydają się być bardzo nowatorskie i innowacyjne, to jednak nie są najbardziej naturalnymi metodami komunikacji między człowiekiem a maszyną. Idealny pod tym względem wydaje się interfejs wykorzystujący nasze myśli, a więc interfejs mózg–komputer [3, 9].

Problematyka interfejsów wykorzystujących myśli, a więc bezpośrednich interfejsów mózg–komputer (ang. Brain-Computer Interface, BCI) pojawiła się już w latach 70. ubiegłego wieku, jednak dopiero rozwój technologii procesorowej, który dokonał się w ostatnich latach umożliwił jej znaczący rozwój oraz praktyczną realizację [13]. Choć dla wielu wciąż brzmi to jak science fiction, sterowanie z wykorzystaniem myśli staje się stopniowo rzeczywistością. Przykładami praktycznej realizacji mogą być procesy zastępujące pisanie na klawiaturze, sterowanie wózkiem inwalidzkim lub obsługę aktywnej ortezy tylko za pomocą myśli [14, 3]. Rozwiązania, w których zastosowano interfejs mózg–komputer stają się szansą na poprawę jakości życia oraz umożliwienie kontaktu ze światem osobom niepełnosprawnym, wymagającym opieki lub pacjentom w ciężkich stadiach chorób neurologicznych [15]. Ponadto w wielu ośrodkach naukowych trwają prace nad budową robotów humanoidalnych (antropomorficznych), sterowanych za pomocą tego interfejsu. Przykładem może być robot humanoidalny zbudowany w CNRS-AIST Joint Robotics Laboratory w Tsukuba w Japonii przy współpracy z CNRS-LIRMM Interactive Digital Human Group w Montpellier we Francji. Celem twórców takich rozwiązań jest spowodowanie, by osoba sterująca robotem czuła się tak, jakby była w jego wnętrzu, a mechanizm (korpus) maszyny byłby jej ciałem.

2. Rozwój komunikacji mózg-maszyna

Pierwsze spekulacje na temat wykorzystania myśli człowieka w celu komunikacji z maszyną pojawiły się w momencie wynalezienia w 1929 r. przez Hansa Bergera elektroencefalografii (ang. Electroencefalography, EEG). Zaczęto wówczas zastanawiać się, czy możliwe jest sterowanie urządzeniami technologicznymi bez użycia siły ludzkich mięśni, gestów lub komend głosowych. W 1970 r. powstały pierwsze, jeszcze prymitywne projekty, w których próbowano elektryczną aktywność ludzkiego mózgu wykorzystać do komunikacji z maszyną.

W tej samej dekadzie XX wieku, dzięki zainteresowaniu organizacji związanej z Ministerstwem Obrony Stanów Zjednoczonych (ang. Advanced Research Project Agency, ARPA), wzrosła intensywność prowadzonych badań ukierunkowanych na aplikacje bioniczne. Program badań dofinansowywanych przez organizację ARPA, prowadzony przez George Lawrence’a, początkowo skupiał się na autoregulacji i kognitywnym biofeedbacku, jaki miał na celu rozwój określonych zdolności ludzkich i skierowany był głównie do osób zatrudnionych w lotnictwie wojskowym, których zadania wiążą się z bardzo dużymi obciążeniami psychicznymi.

Jednym z badanych wówczas zagadnień było wykorzystanie sygnałów mózgowych, analizowanych w czasie rzeczywistym przez komputer sterujący pojazdem i jego uzbrojeniem. Największy sukces wśród prowadzonych prac odniósł projekt kierowany przez Jacquesa Vidala – dyrektora laboratorium BCI na Uniwersytecie w Kalifornii. Założenia projektu obejmowały użycie generowanych komputerowo stymulacji wizyjnych oraz zaawansowanego przetwarzania sygnałów. Udowodniono, że wzrokowe potencjały wywołane (ang. Visual Evoked Potentials, VEP) mogą stanowić kanał komunikacyjny, umożliwiający człowiekowi kontrolę kursora w przestrzeni 2D [11]. Dzięki tym badaniom oraz innym podobnym projektom uwidoczniła się waga rozróżnienia między interfejsami sterowania wykorzystującymi elektroencefalografię oraz tymi, które wykorzystują elektromiografię (ang. Electromiography, EMG) mięśni skóry głowy oraz twarzy. Wykazano, że aktywność EMG może być bardziej wydajna niż EEG, a brak ich rozróżnienia utrudnia w znacznym stopniu rozwój tych technik w zadaniach BCI.

W efekcie utworzono definicję BCI jako systemu komunikacji, który nie zależy od ścieżek nerwów obwodowych i mięśni [ang. A brain-computer interface is a communication system that does not depend on the brain’s normal output pathways of peripheral nerves and muscles]. Definicja ta odróżnia interfejsy BCI od pozostałych metod komunikacji, w tym EMG, które wymagają pewnej formy kontroli mięśni, co ogranicza możliwość ich wykorzystania przez osoby dotknięte poważną niepełnosprawnością ruchową, taką jak np. późne stadium stwardnienia zanikowego bocznego, porażenie pnia mózgu, udar mózgu, lub ciężkie porażenie mózgowe [1].

Oprócz aplikacji motorycznych (ruchowych) BCI, w których użytkownik celowo stara się kontrolować aktywność swojego mózgu, istnieją jeszcze tzw. niejawne metody interakcji BCI, w których zamiast wykorzystywać aktywność wyselekcjonowaną i sterowaną przez użytkownika, wykorzystuje się aktywność dekorelowaną z aktualnie wykonywanym przez niego zadaniem [8].

Pojęcie interakcji niejawnej zostało wprowadzone przez Jakoba Nielsena1 około 1993 r., jako obalenie istniejących wówczas paradogmatów dotyczących interakcji, w formie ściśle kontrolowanego dialogu składającego się z wyspecyfikowanych komend pochodzących od użytkownika, a następnie przetwarzanych przez komputer. Interakcja niejawna często nie jest nawet dialogiem w tradycyjnym rozumieniu tego słowa, mimo że może być analizowana jako dialog, ponieważ występuje tam wymiana informacji między mózgiem człowieka a komputerem. Pojęcie to pojawiało się także w innych pracach, określone na przykład jako pasywny monitoring intencji użytkownika, jako wykonanie akcji, która nie jest otwartym celem użytkownika, ale jest rozumiana przez komputer jako określony sygnał wejściowy [11, 17]. Można określić interakcję niejawną jako nieświadomą akcję, towarzyszącą i zintegrowaną z inną akcją [18]. Jeśli jednak użytkownik interfejsu stara się kontrolować niejawną interakcję, staje się ona interakcją w powszechnie rozumianym sensie. Przykładem jest interakcja międzyludzka, kiedy podczas rozmowy jedna ze stron dialogu stara się modulować głos tak, żeby nie dało się z niego wyczytać jak bardzo jest zestresowana. W przypadku dostarczania niejawnej interakcji, która może być traktowana jako sygnał wejściowy do wykonania jakiejś operacji, działanie to określa się jako tzw. pasywne BCI. Uznaje się to za dodatkową formę komunikacji między mózgiem a komputerem, która nie jest zamierzona przez użytkownika [8]

3. Potencjały mózgowe

Jedną z najbardziej intuicyjnych klasyfikacji metod badania aktywności mózgu jest podział na metody (tab. 1):

– inwazyjne,

– częściowo inwazyjne,

– nieinwazyjne.

Najczęściej stosowaną metodą we współcześnie prowadzonych badaniach aktywności mózgu jest nieinwazyjna metoda elektroencefalograficzna (EEG). Wynika to przede wszystkim z faktu, że inne metody nieinwazyjne, jak MEG, PET oraz fMRI (tab. 1) są stosunkowo drogie, bardziej skomplikowane pod względem technicznym, zatem szansa ich stosowania w urządzeniach powszechnego użytku jest mniejsza niż w przypadku EEG. Wadą metod optycznych (obrazowych) jest natomiast zależność wyniku badania od przepływu krwi, który charakteryzuje się dużą stałą czasową i uniemożliwia szybką komunikację. Są to jednak metody charakteryzujące się lepszą, niż w przypadku EEG, lokalizacją aktywności mózgu.

Tabela 1. Klasyfikacja metod badania aktywności mózgu [14, 3]

Table 1. Classification of methods used to measure brain activity

Inwazyjne

Częściowo inwazyjne

Nieinwazyjne

Implantowane elektrody domózgowe (ang. IntraCortical Recordings, IR)

Elektrokortykografia (ang. Electrocorticography, EcoG)

− Magnetoencefalografia (ang. Magnetoencephalography, MEG)

− Funkcjonalny magnetyczny rezonans jądrowy (ang. functional Magnetic Resonance Imaging, fMRI)

− Spektroskopia w podczerwieni (ang. Near InfraRed Spectoscop, NIRS)

− Pozytronowa emisyjna tomografia komputerowa (ang. Positron Emission Tomograph, PET)

− Elektroencefalografia (ang. Electroencefalography, EEG)

Do największych zalet EEG należą:

ocena aktywności mózgu dokładnie w chwili rejestracji sygnału,

– możliwa praca w wielu warunkach środowiskowych,

– niski koszt realizacji w porównaniu z innymi metodami,

– względnie łatwe użytkowanie.

Akwizycja sygnału EEG wykorzystuje elektrody naklejane na skórę głowy za pomocą żelu oraz nakładane na głowę czepki, kaski lub opaski z suchymi elektrodami. Pomierzony sygnał przekazywany jest do elektroencefalografu, gdzie jest wzmacniany i w postaci cyfrowej przekazywany do komputera. Pomiary mogą być prowadzone synchronicznie (wymagają jednak znajomości chwili wystąpienia oczekiwanej aktywności mózgu) lub asynchronicznie (wymagają ciągłej analizy i klasyfikacji sygnału aktywności mózgu) [3].

Badania elektroencefalograficzne wykonywane współcześnie w medycynie polegają na rejestrowaniu zmian potencjału elektrycznego pochodzącego od aktywności neuronów kory mózgowej i po wzmocnieniu ich potencjałów, zapisanie tych sygnałów w postaci elektroencefalogramu (rys. 1). Liczba elektrod w badaniach medycznych waha się od kilku do 128 elektrod. Rejestrowany za pomocą elektrod potencjał jest wypadkową wszystkich potencjałów, generowanych przez różne źródła pola elektrycznego. Zatem oprócz potencjałów pochodzących z wnętrza czaszki, charakteryzujących aktywność mózgu, są to także sygnały elektrofizjologiczne oraz sygnały pochodzące od zakłóceń zewnętrznych (np. od sieci elektroenergetycznej). Największy wpływ na otrzymany sygnał mają komórki piramidalne. Komórki te mają zwykle podobną orientację, a wiele z nich jest pobudzanych jednocześnie (synchronicznie), dzięki czemu wytwarzane przez nie pole elektryczne ma szansę zostać wykryte, w przeciwieństwie do pola wytwarzanego przez dipol pojedynczego neuronu, które jest zbyt słabe [13].

Istnieje bardzo szeroki wachlarz cech charakterystycznych sygnałów mierzonych za pomocą EEG, które wykorzystywane mogą być w interfejsach mózg–komputer urządzeń technicznych [2], jednak projektując taki system, aby stał się funkcjonalny, należy brać pod uwagę przeszkody i problemy, z jakimi można się zetknąć. Główne niedogodności to szumy i odchylenia, bardzo rozbudowane wektory cech, informacje o czasie komunikacji i jej niestacjonarność [4].

Elektryczny sygnał mózgowy jest sygnałem indywidualnym dla każdej osoby, ale ulega znacznym zmianom w zależności od czynników działających na daną osobę w danej chwili. W analizie tych sygnałów brane są pod uwagę zasadniczo dwa parametry - amplituda i częstotliwość. Przy podziale ze względu na częstotliwość wyróżnia się pasma, które są związane z określonymi stanami lub bodźcami. Nie można precyzyjnie określić ich granic ani funkcji, ponieważ silnie zależą od cech osobniczych, a wiele aspektów działania mózgu jest też nadal nieznanych. Wyróżnia się następujące specyficzne pasma (nazywane też rytmami, falami lub falami EEG) [13, 3] - gamma (powyżej 40 Hz), beta (od 12 Hz do ok. 28 Hz), alfa (od 8 Hz do 13 Hz), mu (od ok. 8 Hz do 12 Hz), theta (od 4 Hz do 7 Hz) oraz delta ( od ok. 0,5 Hz do 3 Hz).

Rys. 1. Podział rytmów fal występujących w analizie sygnału EEG, w zależności od różnych czynników psychofizycznych [13]

Fig. 1. Classification of rhythms that appear in EEG signal analysis depending on various psychofisical factors

W interfejsach mózg–komputer można więc wykorzystać kilka charakterystycznych pasm potencjałów sygnału EEG, wywoływanych pewnymi procesami myślowymi lub koncentracją uwagi użytkownika na określonym zdarzeniu. Część z tych charakterystycznych cech, na przykład potencjał P300 lub stabilny potencjał wywołany wzrokowo (ang. Steady-State Visually Evoked Potential, SSVEP), jest w naturalny sposób wywoływana przez zewnętrzną stymulację, natomiast inne, jak potencjały mózgowe związane z ruchem (ang. Sensomotorical, SMR) lub potencjały korowe wolnozmienne (ang. Slow Cortical Potentails shifts, SCPs) muszą zostać wytrenowane przez użytkownika, przez samoregulację oraz funkcje oparte na sprzężeniu zwrotnym [3].

W diagnostyce medycznej stosuje się badanie tzw. potencjałów wywołanych (ang. Evoked Potentials, EP), powstających w efekcie wystąpienia aktywności mózgu pod wpływem określonego bodźca – najczęściej wzrokowego, słuchowego lub czuciowego.

3.1. Potencjał P300

Nazwa potencjału związana jest z czasem, po którym występuje zmiana jego wartości na bodziec wzrokowy, słuchowy lub sensomotoryczny. Typowy pojedynczy pik potencjału ma amplitudę z zakresu od 2 μV do 5 μV i leży poniżej aktywności „tła” mózgu, co oznacza, że pojedynczy impuls P300 opisany jest bardzo niskim poziomem stosunku wartości sygnału do szumu. Potencjał ten najsilniej obserwowany jest w płacie ciemieniowym.

Wykorzystanie potencjału P300 w interfejsach BCI jest jedną z najprostszych koncepcji budowy takiego interfejsu. Najczęściej wywoływany jest z użyciem wyświetlanej na ekranie tablicy znaków [11]. Wywoływanie zmian potencjału polega na losowym podświetlaniu wierszy i kolumn z częstotliwością od kilku do kilkudziesięciu błysków na sekundę. Zadaniem użytkownika interfejsu jest skoncentrowanie uwagi na wybranym znaku, po czym następuje uśrednienie rejestrowanego potencjału P300, co pozwala na określenie, który znak został wybrany. System o takiej formie działania można zatem wykorzystać do pisania tekstu.

Jakość działania interfejsu BCI warunkowana jest przez czas trwania bodźca, kolor podświetlania, kolor pola, kolor tła oraz cechy psychofizyczne użytkownika. System wymaga zatem kalibracji celem dopasowania parametrów klasyfikacji do cech użytkownika. Przykładem wykorzystania potencjału P300 może być system BCI2000 [16].

3.2. Potencjały wywoływane wzrokowo

Potencjały SSVEP wywoływane wzrokowo są coraz częściej stosowane w interfejsach BCI ze względu na ich wysoką dokładność, bardzo krótki czas treningu oraz wysoki poziom transferu, duży stosunek wartości sygnału do szumu oraz dość dobrą odporność na artefakty. Zostały zastosowane po raz pierwszy w Laboratory Air Force w Stanach Zjednoczonych w aplikacji wymagającej wyboru między dwoma wirtualnymi przyciskami, migającymi z różnymi częstotliwościami. Są to potencjały, które pojawiają się w korze wzrokowej po stymulacji bodźcem świetlnym o określonej częstotliwości migotania. Pobudzenie siatkówki bodźcem świetlnym o ustalonej częstotliwości z zakresu od około 3,5 Hz do 75 Hz powoduje pojawienie się sygnału o takiej właśnie częstotliwości lub jej wielokrotności na elektrodach umieszczonych w obszarze kory wzrokowej [2].

Jako obiekty świetlne stanowiące bodźce stymulujące w SSVEP można stosować specjalne matryce. Jeśli użytkownik skupi swój wzrok na wybranym polu, pojawia się sygnał o określonej częstotliwości w obszarze kory wzrokowej. Analizując widmo sygnału można określić, na co patrzył użytkownik. Punkty, na których użytkownik skupia wzrok powiązane są z akcjami, można zatem określić, jakie działanie miał użytkownik na myśli.

Do wad systemów wykorzystujących potencjały SSVEP, jak również potencjał P300, należy zmęczenie i dyskomfort, które mogą powodować bodźce stymulujące. W skrajnych przypadkach mogą one doprowadzić do wywołania ataku epilepsji. Ponadto temu rodzajowi stymulacji może towarzyszyć efekt habituacji, czyli przywykania, polegający na tym, że w przypadku bodźca powtarzającego się wielokrotnie odpowiedź układu nerwowego staje się coraz słabsza [7].

3.3. Potencjały mózgowe związane z ruchem

Potencjały mózgowe związane z ruchem to fale mózgowe typu mu o zakresie częstotliwości od 8 Hz do 12 Hz oraz beta od 12 Hz do 28 Hz. Największa aktywność pojawia się w stanie spoczynku ruchowego (motorycznego), oraz w przypadku, gdy badana osoba nie wyobraża sobie żadnego ruchu. Dowiedziono bowiem, że osoba badana nie musi wykonywać ruchu, aby wygenerować odpowiedni sygnał – wystarczy samo jego wyobrażenie [3].

Wyniki tych badań pozwalają założyć, że potencjały mózgowe związane z ruchem mogą być wykorzystywane w aplikacjach BCI związanych z urządzeniami technicznymi przeznaczonymi dla osób niepełnosprawnych, które nie mogą wykonywać żadnych ruchów. Analogiczne zmiany w sygnale EEG zostały zaobserwowane także w chwili, kiedy badana osoba obserwowała ruch wykonywany przez inną osobę.

Lokalizacja elektrod rejestrujących sygnał związany z ruchem zależy od wykonywanej lub zamierzonej aktywności wybranego mięśnia. Przykładowo ruch lewej ręki powoduje wystąpienie sygnału w okolicach elektrody C4 - w prawej półkuli, natomiast ruch prawej ręki powoduje wystąpienie sygnału w lewej półkuli, w okolicach elektrody C3 międzynarodowego systemu 10-20 rozmieszczenia elektrod [2, 3]. Rejestrowany sygnał ma postać spadku aktywności (ang. Event-Related Desynchronisation, ERD) lub wzrostu aktywności (ang. Event-Related Synchronisation, ERS). Wzrost aktywności powstaje tuż po wykonaniu ruchu [10].

Wadą interfejsów wykorzystujących pasma ruchowe (motoryczne) jest to, że powstające sygnały są słabe, zatem aby wykryć znaczące zmiany często wykorzystuje się wielokrotne powtórzenia w celu uśrednienia wyników i polepszenia klasyfikacji. Ponadto interfejsy BCI tego typu wymagają treningu. Aby użytkownik mógł skutecznie wyobrazić sobie ruch, musi uczyć się nawet przez kilka dni lub nawet tygodni. Formą nauki, która jest stosowana w takim przypadku jest neurofeedback, gdzie użytkownik obserwując przebiegi zmian wartości swoich potencjałów mózgowych próbuje optymalizować wyobrażenie sobie konkretnego ruchu. Interfejsy oparte na SMR mogą być zarówno interfejsami synchronicznymi lub asynchronicznymi. Interfejsy asynchroniczne mogą być wykorzystane na przykład w zadaniu sterowania wózkiem inwalidzkim, jednak aby się nimi posługiwać należy przejść długotrwały trening, potrzebny jest także bardzo skuteczny system akwizycji i przetwarzania sygnału EEG [1].

W porównaniu z potencjałem P300 potencjał ruchowy SMR charakteryzuje się znacznie mniejszą dokładnością oraz wydłużonym czasem treningu. Powodem może być to, że w potencjale P300 parametry, kontrolujące kształt sygnału nie zmieniają się tak dynamicznie, jak w SMR. Ponadto możliwe są tam proste techniki uśredniania, pozwalające zwiększyć stosunek sygnału do szumu.

4. Komercyjne rozwiązania i komponenty BCI

4.1. System Emotiv Epoc

Jednym z bardziej skomplikowanym, ale według jego twórców zapewniającym duże możliwości jest system Emotiv EPOC. Nazwa systemu jest akronimem, jest to pochodna słowa „epoka” (ang. epoch), co sugerować ma (wyraźnie promocyjnie), że proponowane rozwiązanie jest początkiem nowej ery technologicznej.

Rys. 2. Lokalizacja elektrod w kasku Emotiv EPOC [http://emotiv.com/]

Fig. 2. Location of electrods in Emotiv EPOC headset

Kask EPOC wyposażony jest w 14 elektrod aktywnych i dwie elektrody referencyjne (rys. 2). Większość elektrod kasku zlokalizowana jest w okolicach płata czołowego, prawdopodobnie podyktowane jest to tymi samymi względami, jak przy lokalizacji elektrod w systemie NeuroSky (sekcja 4.4) – mniejsze zakłócenia spowodowane jest mniejszym owłosieniem w tym obszarze. Sensor, podobnie jak opisywany poprzednio, działa bezprzewodowo, co umożliwia użytkownikowi swobodę ruchu. Ponadto kask wyposażony jest w żyroskop, dzięki czemu użytkownik może kontrolować kursor lub kamerę wykorzystując ruchy głową. Dużą zaletą zarówno kasku Emotiv EPOC, jak i innych komercyjnych kasków i opasek jest czystość pracy - sensor, inaczej niż czepki medyczne EEG, nie wymaga stosowania żelu w celu przymocowania elektrod - należy do rozwiązań suchych. Wygodę stosowania kasku Emotiv EPOC porównuje się nawet do wygody użycia zwykłych słuchawek. Kask Emotiv EPOC można przystosować do różnych rozmiarów i kształtów głowy, nie zaleca się jednak wykonywania gwałtownych ruchów głową, które mogą spowodować przesunięcie elektrody z właściwego położenia. Cena kasku jest dużo niższa niż w przypadku profesjonalnych urządzeń medycznych.

Możliwości kasku Emotiv EPOC, w aspekcie odczytu intencji ruchowych użytkownika, są większe niż w przypadku innych komercyjnych systemów. Oprócz poziomu koncentracji możliwy jest pomiar pobudzenia aktywności ruchowych mózgu. Użytkownik systemu może wyobrazić sobie różne czynności - podnoszenie, upuszczanie, popychanie lub obracanie obiektu.

System Emotiv EPOC umożliwia nie tylko odczytaniae bezpośredniej aktywności mentalnej użytkownika, ale także aktywności niejawnej. Niektóre z emocji, które system może odczytać to: podekscytowanie, napięcie, znudzenie, zaangażowanie, medytacja, także frustracja. Sygnał emitowany przez ludzki mózg w chwili frustracji jest różny w zależności od osobnika, dlatego zanim wykorzystane zostaną te właściwości systemu, potrzebny jest trening. Poza akcjami związanymi z ruchem obiektów oraz odczytem emocji, możliwe jest także odczytanie mimiki i ekspresji twarzy. Według producenta, używając kasku Emotiv EPOC można zarejestrować między innymi: mruganie, śmiech, zaskoczenie, uśmiech, zdenerwowanie, grymaszenie, nawet uśmiech z wyrazem wyższości.

4.2. System Muse Interaxon

Opaska systemu Muse Interaxon (rys. 3) umożliwia badanie zmian między dwoma stanami - koncentracją oraz zrelaksowaniem. Pomiar następuje w czasie rzeczywistym, co stanowi bardzo istotny aspekt interfejsów BCI. Opaskę cechuje prosty, ale bardzo elegancki wygląd. Wokół czoła, na cienkiej opasce umieszczonych jest pięć elektrod mierzących aktywność mózgu użytkownika, natomiast za uszami, podobnie jak w przypadku opasek konkurencyjnych firm, opaska ma dwa sensory mierzące potencjały referencyjne. Według producenta sensor umożliwia rejestrowanie zmian 5 pasm aktywności mózgu: alfa, beta, gamma, delta oraz theta. Należy podkreślić, że sensor pozwala jedynie na pomiar typu aktywności mózgu, nie jest to jednak informacja, o stanach pośrednich, a więc o czym dokładnie myśli użytkownik. Kolejnym podobieństwem do opasek MindWave oraz MindSet jest sposób komunikacji: Muse Interaxon wykorzystuje protokół Bluetooth, łączy się za jego pomocą bezprzewodowo z komputerem, smartphonem lub tabletem.

Rys. 3. Opaska Muse Interaxon [http://www.choosemuse.com/]

Fig. 3. Muse Interaxon headset

Firma Interaxon to grupa artystów, inżynierów, naukowców oraz projektantów, która powstała już w 2007 r. i przez ostatnie 8 lat pracowała nad aplikacją BCI. W 2007 r. urządzenie Muse było zdecydowanym faworytem na rynku komercyjnych interfejsów BCI. Według twórców Muse wyróżnia się na tle konkurencji integracją między zaangażowaniem intelektualnym a emocjonalnym w celu uzyskania najlepszego efektu.

4.3. Rozwiązania Open-source

Interesującym rozwiązaniem na rynku interfejsów mózg–komputer są także open-source’owe rozwiązania OpenBCI2. Tym, co wyróżnia te produkty wśród innych, oprócz zasady otwartego rozpowszechniania jest także większa uniwersalność. Jak informują twórcy na portalu kickstarter5, rozwiązanie OpenBCI, w przeciwieństwie do pozostałych istniejących na rynku interfejsów, umożliwia dowolne przystosowanie do własnych wymagań przez udostępnienie wszystkich składników rozwiązania. Każdy, kto ma pomysł na wykorzystanie interfejsu, może uczestniczyć we współtworzeniu algorytmów, co sprzyja rozwojowi tej wciąż nowej na rynku dziedziny techniki. Pomysłodawcy zapraszają do współpracy zarówno naukowców, badaczy, studentów, lekarzy i wszystkich chętnych i zainteresowanych projektem.

4.4. System MindWave NeuroSky

Jednym z najdłużej obecnych na rynku komercyjnych rozwiązań BCI jest kask MindWave3, opracowany przez firmę NeuroSky (rys. 4). Sensor mierzy częstotliwość fal mózgu w miejscu oznaczonym symbolem Fp1 międzynarodowego systemu 10–20 rozmieszczenia elektrod [2]. Kask MindWave pozwala identyfikować stany umysłu takie jak relaksacja, uwaga lub mruganie oczami. Razem z kaskiem użytkownik otrzymuje płytę z zestawem gier, które umożliwiają trening umysłu.

Rys. 4. Kask MindWave NeuroSky wyposażony w sensor umieszczany na czole oraz klips mierzący potencjał referencyjny, umieszczany na lewym uchu6

Fig. 4. MindWave NeuroSky headset equipped with the sensor placed on the forehead, and ear clip measuring reference potential4

Firma Neurosky – producent sensora MindWave – rozpoczęła prace rozwojowe w dziedzinie interfejsów BCI, a w szczególności wpływu neurotreningu na leczenie schorzenia ADHD, już w 2007 r. Opublikowano raport, w którym porównano działanie kasku firmowego z urządzeniami klasy badawczo-medycznej. Wynik testu okazał się zaskakujący – badania wykazały 90-96 % zgodność wyników pomiarów, w zależności od okoliczności oraz użytkownika lub pacjenta. Ponadto firma Neurosky jest partnerem w badaniach prestiżowych uniwersytetów i instytucji naukowych.

Ze względu na umieszczenie elektrody w punkcie Fp1, rejestrowany sygnał (oprócz sygnałów związanych z aktywnością mózgu) zawierać może zakłócenia oraz artefakty związane zarówno z urządzeniami towarzyszącymi badaniom, jak i z samym użytkownikiem. Zakłócenia mogą być wywołane na przykład przez ruch głowy powodujący skurcze mięśni, co także jest odzwierciedlane w sygnale EEG. Sensor MindWave wykorzystuje punkt referencyjny, traktowany jako pewnego rodzaju uziemienie (ang. Ground Reference Point, GRP), którego rolę pełni tu klips umieszczony na uchu użytkownika. Pozwala to na względnie dobre odseparowanie sygnałów użytecznych od szumów i zakłóceń.

Rys. 5. Wyniki pomiarów wskaźnika poziomu skupienia podczas rozwiązywania zadań matematycznych

Fig. 5. Effect of ATTENTION eSense measurements meanwhile accomplishing mathematical task

Technologia wykonania kasku MindWave pozwala na wykorzystanie tzw. suchych elektrod (ang. Dry Sensor Technology). Według specyfikacji firmowej pozwala to na wykrywanie różnych biosygnałów w zależności od tego, gdzie umieszczona jest elektroda pomiarowa. Spadki napięcia zmierzone w dwóch punktach - na skórze czoła oraz na lewym uchu - są od siebie odejmowane i na wyjściu uzyskuje się jednokanałowy sygnał EEG. Otrzymany sygnał jest następnie wzmacniany 8000 razy, tak silnie ze względu na to, że jest to sygnał o bardzo słabej wartości. W kolejnym kroku następuje filtracja, która ma na celu uzyskanie sygnału z zakresu 1-50 Hz. Po procesie filtracji sygnał jest próbkowany z częstotliwością 128 Hz lub 512 Hz. Sygnał analizowany jest w każdej sekundzie z użyciem algorytmów opracowanych przez firmę NeuroSky tak, aby jakość sygnału była jak najlepsza oraz by sygnał wykorzystywany w dalszych etapach badań był w jak największym stopniu sygnałem użytecznym. Konwersja sygnału EEG na napięcie odbywa się zgodnie z zależnością

V = [raw_value · (1,8/4096)] / 2000, (1)

gdzie: raw_value – surowy sygnał EEG.

5. Robot mobilny sterowany za pomocą potencjałów ruchowych

5.1. Przygotowanie systemu MindWave NeuroSky

Pierwszym krokiem w przygotowaniu sensora Mindwave do sterowania robotem mobilnym było sprawdzenie jego faktycznych właściwości. W tym celu wykorzystano gry oraz programy dostępne z kaskiem, które służą do treningu umysłu, bazując na pomiarze poziomu uwagi użytkownika. Zgodnie z protokołem MindSet, informacje o poziomie skupienia (ang. Attention) lub rozluźnienia (ang. Meditation) użytkownika przekazywane są przez dwa parametry ATTENTION eSense oraz MEDITATION eSense. W celu oceny użyteczności kasku MindWave oraz wyszczególnienia czynności, przy których poziom skupienia jest widocznie wyższy od poziomu relaksu wykorzystano aplikacje dostarczane z systemem. Jedną z aplikacji jest Meditation Journal5 - program przeznaczony do monitorowania codziennych stanów umysłu użytkowników. W trakcie treningu użytkownik może nauczyć się osiągać opisane stany w sposób bardziej skuteczny.

Założono, że wysoki stan skupienia uwagi można osiągnąć podczas rozwiązywania zadania matematycznego w pamięci albo na kartce (rys. 5), podczas rozwiązywania zadań pamięciowych (rys. 6), także podczas czytania tekstu w języku obcym (rys. 7). Weryfikacji tych założeń dokonano przez pomiar skupienia użytkowników wykonujących powyższe czynności za pomocą wspomnianej aplikacji Meditation Journal.

Rys. 6. Wynik pomiaru wskaźnika poziomu skupienia podczas wykonywania zadania pamięciowego, wykorzystując aplikację SpadeA

Fig. 6. Effect of attention measurement meanwhile accomplishing memory task, using SpadeA application

Rys. 7. Wynik pomiarów wskaźnika poziomu skupienia podczas czytania tekstu w języku obcym

Fig. 7. Effect of ATTENTION eSense measurements meanwhile reading a text in a foreign language

Rys. 8. Wyniki pomiarów wskaźnika poziomu zrelaksowania (rozluźnienia) podczas odpoczynku

Fig. 8. Effect of MEDITATION eSense measurements meanwhile relaxing

Poziom skupienia podczas rozwiązywania zadań matematycznych badano także wykorzystując aplikację SpeedMath. Gra polega na wykonywaniu prostych operacji dodawania, odejmowania oraz w wyższych poziomach także mnożenia i dzielenia.

Aktywność mózgu związana z zadaniami pamięciowymi monitorowano używając aplikacji SpadeA, wymagającej od użytkownika zapamiętywania położenia elementu i odnalezienia go po zmianie ułożenia elementów. Z początkowych obserwacji wynikało także, że wpływ na poziom uwagi mogą mieć odczuwane emocje, jak na przykład smutek lub gniew.

Ze względu na subiektywność testów, przeprowadzono je na grupie 7 osób. Jak wcześniej wspomniano możliwości umysłowe są indywidualną cechą każdego człowieka, zatem każdy osiąga różne wyniki. Wpływ na osiągane wyniki może mieć także kondycja fizyczna i psychiczna osoby badanej. Testując kask na grupie użytkowników zanotowano także spostrzeżenia na temat aktualnego stanu, w jakim znajdowali się testerzy oraz ich uwagi dotyczące wygody użytkowania kasku MindWave, komfortu podczas wykonywania zadań oraz kondycji psychicznej po ich wykonaniu.

Przeprowadzone testy miały kilka poziomów trudności. Każdy kolejny poziom wymagał od użytkownika coraz wyższego poziomu uwagi. Testy przeprowadzono także na autorce pracy. Motywacją do wykonania testów było sprawdzenie, jakie czynniki mają wpływ na osiąganie dobrych wyników we wspomnianych aplikacjach lub grach.

Głównym założeniem, które testy miały udowodnić było to, że im dłużej korzysta się z nich, tym są osiągane lepsze wyniki – zatem podczas uczenia się, rozwijane są równolegle zdolności koncentracji. Testy potwierdziły zróżnicowanie wyników wśród grupy uczestników pozwalając oszacować, w jakim stopniu wyniki zależą od indywidualnych predyspozycji osoby badanej. Przeprowadzone badania wykazały, że rozbieżność wyników dla różnych użytkowników jest duża, ale użytkownicy korzystający dłużej z danej aplikacji lub gry, osiągają znacząco lepsze rezultaty koncentracji.

5.2. Platforma programistyczna Arduino Uno

Dla robota mobilnego, zbudowanego w ramach projektu [9] (rys. 9), przewidziano wykorzystanie platformy programistycznej Arduino Uno6. Platforma ta jest środowiskiem programistycznym dla systemów wbudowanych, bazującą na projekcie Open Hardware przeznaczonym dla mikrokontrolerów montowanych w pojedynczym obwodzie drukowanym, z wbudowaną obsługą wejścia/wyjścia, wykorzystujących standaryzowany język programowania [12]. Płyta Arduino składa się z 8-bitowego mikrokontrolera Atmel AVR z uzupełniającymi elementami ułatwiającymi programowanie oraz włączanie innych układów. Oficjalne płyty Arduino wykorzystują układy z serii megaAVR – ATmega8, ATmega168, ATmega328 oraz ATmega1280 i ATmega 2560.

Rys. 9. Robot mobilny sterowany z wykorzystaniem opaski MindWave NeuroSky, z wykorzystaniem pomiaru poziomu skupienia [9]

Fig. 9. Mobile robot controlled with NeuroSky indwave headset MindWave, using attention measurements

Płyty Arduino (rys. 10) są programowane za pośrednictwem interfejsu szeregowego RS-232, sprzętowa implementacja zależna jest jednak od konkretnej wersji środowiska. Zawierają prosty obwód inwertera do konwersji sygnału między interfejsami RS-232 i TTL. Wykorzystane w projekcie [9] płyty Arduino są programowane przez USB, realizowany za pomocą adaptera USB-to-Serial, np. układ FTDI FT232.

Robot napędzany jest za pomocą dwóch serwosilników elektrycznych PowerHD AR-360HB. Maksymalną prędkość robot osiąga przy zasilaniu 6 V. Serwosilniki wyposażone są w trzy kable: czerwony, brązowy oraz pomarańczowy. Zgodnie z ogólnymi zasadami kabel czerwony oznacza „+” i powinien być podłączony do wyjścia 5 V płytki Arduino, kabel brązowy (w niektórych przypadkach może także być czarny) podłączany jest do uziemienia GND, natomiast kabel pomarańczowy (może być także biały lub żółty) to kabel, który podłączono do cyfrowego pinu I/O dla transportu danych między serwosilnikiem a płytką Arduino. Wysterowanie serwosilników z poziomu Arduino polega na podaniu sygnału o wartości „HIGH” na odpowiednie wyjścia cyfrowe.

Rys. 10. Mikrokontroler Arduino Uno, wykorzystany przy budowie trójkołowego robota mobilnego, sterowanego za pomocą kasku MindWave [www.arduinoclassroom.com]

Fig. 10. Microcontroler Arduino Uno, used to build three-wheel mobile robot, controlled with MindWave headset

W celu wykorzystania platformy Arduino jako elementu robota potrzebne jest zapewnienie bateryjnego zasilania urządzenia, zastępującego kabel USB. W tym celu wykorzystano baterię o napięciu 9 V, ponieważ zalecany zakres napięć obsługiwany przez Arduino to 7-12 V. Bateria zasila także elementy współpracujące z płytką Arduino: serwosilniki oraz urządzenie współpracujące z kaskiem Mindwave (rys. 11).

Rys. 11. Układy elektroniczny i elektryczny sterownika platformy jezdnej robota

Fig. 11. Electronic and electrical connections of mobile robot

Kolejnym elementem, w który wyposażony został robot są diody LED. Ich podstawowym zadaniem jest umożliwienie użytkownikowi obserwowania efektów sterowania robotem. Wykorzystano diody w trzech kolorach.

Dla utworzenia niezbędnych połączeń elektrycznych skorzystano z płytki prototypowej, narzędzia stosowanego w elektronice pozwalającego na szybkie prototypowanie obwodów drukowanych, bez konieczności ich każdorazowego przygotowywania i wytrawiania. Łącząc układ zwrócono uwagę, aby masy (GND) wszystkich elementów były ze sobą połączone. Podwozie robota zostało wykonane z płyty PCV.

5.3. Sterownik robota mobilnego

Metodologia systemu ThinkGear, stanowiąca podstawę budowy urządzeń firmy NeuroSky, w tym sensora MindWave, umożliwia odczyt i przetwarzanie potencjałów mózgowych, sprzętowo obejmuje elektrodę potencjału mierzonego umieszczoną na czole użytkownika, klips – umożliwiający pomiar potencjału referencyjnego oraz chip przetwarzający uzyskane dane do postaci cyfrowej. Komunikacja z kaskiem MindWave oraz obsługa urządzenia współpracującego w formie pendrive’u zdefiniowane są w specjalnych protokołach komunikacyjnych, udostępnionych przez firmę NeuroSky. Informacje przesyłane są w formie strumienia bajtów przez połączenie Bluetooth, z wykorzystaniem standardu Bluetooth Serial Port Profile (SPP).

Dane przesyłane podczas pracy urządzenia w formie bajtów podzielić można na kilka grup (rys. 12). Jeden bajt przeznaczony jest na informację o jakości sygnału (POOR_SIGNAL Quality), parametr przyjmuje wartości z zakresu od 0 do 200. Jeżeli wartość jest różna od zera, oznacza to, że sygnał jest zakłócany. Im wyższa jest wartość tego parametru, tym więcej szumu wykryto w sygnale. Maksymalna wartość oznacza, że elektroda nie styka się ze skórą użytkownika. Standardowo wartość ta przesyłana jest co sekundę. Przyczyny słabego sygnału mogą być różne, m.in. urządzenie jest niepoprawnie założone, elektrody nie stykają się odpowiednio ze skórą głowy użytkownika (co może być spowodowane na przykład przez włosy), użytkownik kasku zbyt intensywnie się porusza, użytkownik znajduje się w otoczeniu, w którym występują zakłócenia elektrostatyczne lub sygnał EEG jest silnie zakłócany przez inne biometryczne sygnały - np. EMG, EKG/ECG, EOG. Pewna liczba zakłóceń w sygnale jest nieunikniona, dla użytkowników niemedycznych nie stanowi to jednak dużego problemu [9].

Rys. 12. Format pakietu danych systemu MindWave NeuroSky

Fig. 12. The format of the package of data of MindWave NeuroSky

Druga grupa raportowanych danych przenosi informację o poziomie skupienia lub rozluźnienia (relaksu) użytkownika (ang. Attention and Meditation). Wskaźnik ten nazywany jest eSense i opisuje ogólny sposób interpretacji poziomu uwagi. Skala obejmuje wartości od 0 do 100, przy czym wartości z przedziału 40-60 traktowane są jako neutralne, wartości z przedziału 60-80 jako delikatnie wyższe i mogą być traktowane jako wyższe niż normalne, analogicznie wartości z przedziału 20-40 mogą być traktowane jako obniżone względem normalnych. Wartości z przedziałów 1-20 oraz 80-100 informują odpowiednio o bardzo niskim lub bardzo wysokim poziomie skupienia. Wartość 0 wskazuje, że system ThinkGear nie może oszacować poziomu uwagi użytkownika, co może być związane m.in. z bardzo wysokim poziomem zakłóceń w sygnale (POOR_SIGNAL Quality).

Interpretacja poziomu uwagi na podstawie tych wartości może być różna w zależności od aplikacji. Bardziej szczegółowo informacje o poziomie skupienia opisane są przez dwa parametry: ATTENTION eSense oraz MEDITATION eSense. Są to parametry przesyłane z częstotliwością raz na sekundę w postaci jednego bajtu informacji. Warto zwrócić uwagę, że poziom rozluźnienia odnosi się tu do rozluźnienia psychicznego a nie fizycznego, choć najczęściej rozluźnienie mięśni prowadzi także do zrelaksowania umysłu użytkownika. Kolejne dwa bajty informacji to dane związane z pasmami fal mózgowych. Mogą przyjmować wartości z zakresu od -32768 do 32767, a ich raportowanie odbywa się raz na 2 ms, co daje około 512 odczytów w ciągu sekundy. Parametr opisujący poszczególne rodzaje pasm to ASIC_EEG_POWER, składa się z ośmiu trzybajtowych pakietów liczb, odpowiadających pasmom delta, theta, low-alpha, high-alpha, low-beta, high-beta, low-gamma oraz high-gamma [3, 9]. Parametr ten jest odczytywany raz na sekundę. Ostatni z parametrów opisuje mrugnięcie okiem. Zakres wartości, jakie może osiągnąć to liczby od 1 do 255. Parametr przesyłany jest, jeśli nastąpiło mrugnięcie.

Opisane powyżej dane przesyłane są z wykorzystaniem systemu ThinkGear do odbiornika systemu z wykorzystaniem specjalnych pakietów. Pakiety te składają się z trzech części:

– nagłówka, zawierającego bajty synchronizujące, rozpoczynające pakiet oraz bajt zawierający informację o długości pakietu danych,

– treści pakietu,

– sumy kontrolnej.

Odbiornikiem przesyłanych pakietów może być komputer, mikroprocesor lub każde inne urządzenie, które ma funkcję odbioru seryjnego strumienia bajtów.

W celu uzyskania bezpośredniej współpracy między kaskiem MindWave a platformą Arduino, stanowiącą bazę sterownika robota, wprowadzono pewne zmiany w połączeniach. Usunięto połączenie z USB tak, aby umożliwić odczyt danych przez piny TX oraz RX. Następnie piny w urządzeniu wspomagającym kask (ang. MindWave Dongle, rys. 13) połączono z pinami na płytce Arduino, pierwszy z nich oznaczając czerwonym kablem, drugi - kablem zielonym (jako TX), trzeci - kablem białym (jako RX), czwarty - kablem czarnym (jako GND). Połączenie pomiędzy pinem RX i płytką Arduino wymagało dodatkowego zabezpieczenia przez zastosowanie rezystorów tak, aby podawane przez Arduino napięcie nie było zbyt wysokie [9].

6. Testy połączenia platformy Arduino i robota mobilnego

W pierwszym etapie testów połączeń między kaskiem MindWave a platformą Arduino, wykorzystano diody LED jako sygnalizatory poszczególnych stanów. Zastosowano diody sygnalizujące o barwach:

– czerwony – stan włączenia niezbędnych zespołów, płytki Arduino oraz kasku MindWave;

– żółty – stan nawiązania połączenia, w którym nie następuje jeszcze transmisja danych. Przykładowo jest to sytuacja, gdy kask MindWave jest włączony, ale nie jest jeszcze założony przez użytkownika, zatem nie są generowane potencjały mózgowe;

– zielony – stan rozpoczęcia transmisji danych, przy czym dioda zielona miga, jeżeli poziom uwagi użytkownika jest większy od wartości zerowej.

Urządzenie Mindwave Dongle oraz sam kask MindWave wyposażone są także w diody. Po podłączeniu urządzenia wspomagającego do zasilania oraz włączeniu kasku przełącznikiem, na obydwu komponentach diody zapalają się na czerwono. Kiedy udaje się nawiązać połączenie bezprzewodowe między nimi, diody zapalają się na niebiesko. Motywacją do wybrania takiej metody testowania jest fakt, że diody LED, w przeciwieństwie do serwosilników robota, mogą bardzo szybko zmienić stan, dlatego łatwo można zaobserwować, czy połączenie oraz transmisja danych przebiegają poprawnie. W kolejnym kroku poziom skupienia użytkownika zostaje już odwzorowany przez ruch serwosilników robota.

Rys. 13. Piny połączeniowe MindWave Dongle, wykorzystane do połączenia z płytką Arduino

Fig. 13. Connection pins used to connect MindWave Dongle with Arduino board

Dla odwzorowania ruchu robota z poziomu skupienia użytkownika wykorzystano specjalnie przygotowaną bibliotekę Servo.h, dostępną z platformy Arduino IDE. Zastosowanie biblioteki dawało dobre rezultaty podczas sterowania serwosilnikami bez połączenia z sensorem, praca napędów była wówczas stabilna. Według producenta systemu Arduino, zastosowanie biblioteki pozwala bardziej efektywnie sterować przepływem informacji niż stosując funkcję digitalWrite(), której wykonywanie chwilowo blokuje pozostałe funkcje programu. Funkcje biblioteki Servo.h rozwiązują ten problem bardziej skutecznie [9].

7. Podsumowanie

Analiza komercyjnych rozwiązań BCI rozwijanych pospiesznie ,przede wszystkim ze względów komercyjnych w branży medycznej, potwierdza celowość podejmowania w ostatnim czasie prób wykorzystania ich także w automatyce i robotyce, w tym docelowo w ogólnodostępnych urządzeniach i maszynach. Na przykład doskonałym obszarem zastosowań nieinwazyjnego interfejsu mózg–komputer wydaje się być aktuatoryka elektrycznych lub pneumotronicznych urządzeń i robotów wspomagających osoby niepełnosprawne i chore oraz osoby zajmujące się ich pielęgnowaniem, rehabilitacją i leczeniem. Uzasadniają to także pozytywne wyniki realizacji opisanego w artykule projektu sterowania robotem mobilnym przy pomocy potencjałów mózgowych [9].

Istniejące, katalogowe kaski lub opaski BCI nie wymagają stosowania żelu w celu przymocowania elektrod, nie trzeba także korzystać z kosztownych, specjalistycznych wzmacniaczy sygnału a ich obsługa przez użytkownika jest bardzo prosta. Zastosowany w projekcie [9] kask MindWave firmy NeuroSky jest jednym z najtańszych rozwiązań dostępnych na rynku. Był to główny powód, dla którego zdecydowano się na wybór właśnie tego urządzenia. Kolejnym argumentem, przemawiającym za jego wyborem, była dostępność protokołu MindSet [19] opisującego komunikację, format przekazywanych danych oraz metodę ich transformacji do postaci użytecznej w wybranej aplikacji. Właśnie ten protokół umożliwił odczyt danych z kasku MindWave oraz wykorzystanie otrzymanego sygnału do sterowania robotem.

Kolejną zaletą wszystkich, opisanych w artykule rozwiązań BCI, w tym także wykorzystanego w projekcie [9], jest ich asynchroniczny tryb pracy. Aby uzyskać sygnał użyteczny nie jest wymagana stymulacja użytkownika żadnymi bodźcami zewnętrznymi, na przykład w postaci bodźców świetlnych lub akustycznych. Stosowanie tego typu stymulacji jest męczące dla osoby używającej interfejsu BCI.

Oczywistą wadą wykorzystanego systemu BCI firmy NeuroSky jest dwuwartościowość informacji (skupienie, rozluźnienie uwagi użytkownika), a więc także dwuwartościowość sygnałów sterujących, które można użyć. Sensor MindWave wyposażony jest w tylko jedną elektrodę, umieszczaną na czole użytkownika oraz klips, generujący potencjał referencyjny. Odpowiada to, na przykład w odniesieniu do wspomnianej aktuatoryki urządzeń automatyki i robotyki, pracy typowych siłowników – wykorzystanie mechatroniczne BCI potrzebuje jednak sygnału wielowartościowego, pozwalającego na pracę aktuatorów serwomechanizmowych. Wymaga to dalszych badań i rozwoju interfejsu BCI [2, 9].

Na podstawie przeprowadzonych testów kasku MindWave oraz jego połączenia z mikrokontrolerem platformy Arduino stwierdzono, że odwzorowanie poziomu skupienia oraz rozluźnienia jest poprawne, a sygnał ten może być skutecznie wykorzystany do sterowania układem elektronicznym, w tym do sterowania robotem.

W trakcie realizacji opisanego projektu wystąpiły dwa problemy [9]. Pierwszym był stosunkowo długi czas oczekiwania na połączenie i rozpoczęcie transmisji danych. Dotyczyło to zarówno łączenia kasku z mikrokontrolerem przez port USB w fazie uruchomienia systemu, jak i czas tego połączenia podczas ruchu robota. Czas od momentu nawiązania połączenia do momentu rozpoczęcie transmisji jest różny w zależności od wykonywanej próby, nie udało się niestety stwierdzić w wykonanych w projekcie badaniach przyczyn tego zachowania. Drugim problemem były zachowania zastosowanych silników napędu robota, wprowadzające zakłócenia pracy modułu odpowiedzialnego za komunikację z kaskiem, polegające na jej spowalnianiu, a nawet przypadkowym zrywaniu tej komunikacji. Zlikwidowano te zjawiska dzięki zastosowaniu kondensatora elektrolitycznego, połączonego równolegle z zasilaniem serwosilników oraz wprowadzeniu pewnych zmian do programu pracy systemu [9].

Bibliografia

Birbaumer N., Heetderks W., McFarland D., Peckham H., Schalk G., Donchin E., Quatrano L., Robinson C., Brain–Computer Interface technology: A review of the First International Meeting on Rehabilitation Engineering, “IEEE Transactions on Rehabilitation Engineering”, Vol. 8, 2/2000, 164–173, DOI: 10.1109/TRE.2000.847807.

Cegielska A., Olszewski M., Nieinwazyjny interfejs mózg–komputer dla zastosowań technicznych. Pomiary Automatyka Robotyka, R. 19, 3/2015, 5–14, DOI: 10.14313/PAR_217/5.

Cegielska A., Opracowanie możliwych realizacji interfejsu mózg–komputer. Praca magisterska, Politechnika Warszawska, 2015.

Lotte F., Congedo M., Lécuyer A., Lamarche F., Arnaldi B., A review of classification algorithms for EEG-based Brain–Computer Interfaces. Journal of Neural Engineering, Vol. 4, No. 2/2007, DOI: 10.1088/1741-2560/4/2/R01.

Donchin E., Spencer K.M., and Wijesinghe R., The mental prothesis: accessing the speed of a P300-based Brain-Computer Interface. “IEEE Transactions on Rehabilitation Engineering”, Vol. 8, No. 2/2000, 174–179.

Devlaminick D., Wyns B., Boullart L., Santens P., Otte G., Brain–Computer Interfaces: from theory to practice. ESANN’2009 – Advances in Computational Intelligence and Learning, Bruges, 2009.

Durka P. et al., Open projects for Brain-Computer Interfaces and signal analysis. Frontiers in Neuroinformatics. Conference Abstract: 2nd INCF Congress of Neuroinformatics, 2009.

George L., Lecuyer A., An overview of research on „passive” brain–computer interfaces for implicit human – computer interraction. Campus Universitarie De Beaulieu, 2007.

Górska M., Interfejs mózg–komputer w zadaniu sterowania robotem mobilnym. Praca magisterska, Politechnika Warszawska, 2015.

Górska T., Majczyński H., Mechanizmy sterowania ruchami dowolnymi, [w:] praca zbiorowa Górska T., Grabowska A., Zagrodzka J. (red.), Mózg a zachowanie, Wydawnictwo Naukowe PWN, 2000.

Jacob R.J.K., Legget J.J., Myers B.A., Pausch R., Interaction styles and input/output devices, “Behaviour and Information Technology”, 12(2), 1993.

Karvinen T., Karvinen K., Make a mind-controlled Arduino robot. O’Reilly Media, Sebastopol, 2011.

Kołodziej M., Przetwarzanie, analiza i klasyfikacja sygnału EEG na użytek interfejsu mózg–komputer. Praca doktorska, Politechnika Warszawska, 2011.

Kołodziej M. i in., Interfejs mózg–komputer. Raport Instytutu Elektrotechniki Teoretycznej i Systemów Informacyjno-Pomiarowych, Politechnika Warszawska, 2011.

Kołodziej M. i in, Interfejs mózg–komputer: Wybrane problemy rejestracji i analizy sygnału EEG. Raport Instytutu Elektrotechniki Teoretycznej i Systemów Informacyjno-Pomiarowych, Politechnika Warszawska, 2011.

Schalk G., McFarland D., Hinterberg T., Birbaumer N., Wolpaw J., BCI2000: A general purpose Brain–Computer Interface (BCI) system. IEEE Transactions on Medical Engineering, Vol. 51, 6/2004, 1034–1043.

Schmidt A., Implicit human computer interaction through context. Personal and Ubiquitous Computing, Vol. 4, 2-3/2000, 191-199, DOI: 10.1007/BF01324126.

Zander T.O., Kothe C., Welke S., Roetting M., Utilizing secondary input from passive Brain-Computer Interfaces for enhancing Human-Machine Interactions. Lecture Notes in Computer Science, Vol. 5638, 2009, 759–771, DOI: 10.1007/978-3-642-02812-0_86.

[http://wearcam.org/ece516/mindset_communications_protocol.pdf] – MindSet Communications Protocol, 2010.

Brain–computer interface in the task of mobile robot control

Abstract: The paper presents modern method of communication between human and a machine, using brain potentials – brain–computer interface. A development and properties of methods of human brain announcing with devices and machines were described. The project of interface used to control mobile robot was developed. Application was based on electroencephalography, dry headset enabling attention and relax level measuring was used as a sensor.

Keywords: brain–computer interface, electroencephalography, mobile robot, control by the human brain

mgr inż. Magdalena Górska

m.gorska90@gmail.com

Studia inżynierskie w Politechnice Warszawskiej, studia magisterskie rozpoczęte na Universitat Politécnica de Valencia w programie Erasmus, kontynuacja studiów na Wydziale Mechatroniki Politechniki Warszawskiej. Praca magisterska na temat sterowania robotem mobilnym przez interfejs mózg– –komputer, wyróżniona w Konkursie Młodzi Innowacyjni prowadzonym przez Przemysłowy Instytut Automatyki i Pomiarów PIAP (2015), doskonałe, bliskie nagrodzonym miejsce w konkursie o Nagrodę Siemensa i Rektora Politechniki Warszawskiej Dla Absolwentów (2015). W 2013 r. rozpoczęła pracę zawodową jako instruktor robotyki w firmie Mały Inżynier, w 2014 r. – jako junior developer w firmie Polprox, zajmującej się automatyką domową i projektowaniem systemów inteligentnych budynków.

dr hab. inż. Mariusz Olszewski, prof. PW

m.olszewski@mchtr.pw.edu.pl

Pracownik Politechniki Warszawskiej od 1965 r., stypendysta Fundacji Alexandra v. Humboldta w latach 70., w 1978 r. organizuje pierwszą w Polsce konferencję naukową na temat robotyki przemysłowej, w 1985 r. WNT wydaje napisaną pod jego kierunkiem pierwszą polską monografię na temat maszyn manipulacyjnych, w minionym dziesięcioleciu wydawnictwo REA wydaje napisane pod jego kierunkiem pierwsze polskie podręczniki z zakresu mechatroniki: „Mechatronika” (2002), „Podstawy mechatroniki” (2006) oraz dwutomowe „Urządzenia i systemy mechatroniczne” (2009). Specjalista w zakresie napędów i sterowania maszyn i robotów przemysłowych. Dyrektor Instytutu Automatyki i Robotyki na Wydziale Mechatroniki Politechniki Warszawskiej w latach 1994–2012; od 2003 r. członek Rady Naukowej Przemysłowego Instytutu Automatyki i Pomiarów PIAP.

1 http://pl.wikipedia.org/wiki/Jakob_Nielsen

2 https://www.kickstarter.com/projects/openbci/openbci-an-open-source-brain-computer-interface-fo?ref=search

3 http://store.neurosky.com/products/mindwave-1

4 http://neurosky.com/

5 http://store.neurosky.com/products/meditation-journal

6 http://pl.wikipedia.org/wiki/Arduino