Bardzo ciekawy artykuł. Zastanawiam się nad tą niedoskonałością i wewnętrznymi sprzecznościami, które miałyby być jedną z podstaw SI. Wydaje mi się, że niekoniecznie. Albo inaczej - interakcja między światem zewnętrznym a świadomym podmiotem jest głównym i wystarczającym kontrastem.

Uff , Jeden z najciekawszych tematów na świecie. Artykuł sprowokował znacznie wiecej pytań niż dał odpowiedzi .chyba trochę ostudził zapał pasjonatów AI .
Rodzą się śmieszne pytania np.  czy świadoma "sztuczna inteligencja" może (powinna) odczuwać ;
a) zmęczenie
b) radość z wykonania zadania
c) złość / smutek z powodu niewykonania zadania
d) zazdrość - bo IPQ 16 wykonał zadanie szybciej
e) lęk przed rozładowaniem baterii
f) rodzaj poczucia humoru
I czy może odmówić wykonania polecenia (patrz - prawa robotyki Asimova) tłumacząc się np bólem procesora.

Wydaje mi się, że ustalenie stałej zasady posłuszeństwa przeczy inteligencji

Artykuł oczywiście bardzo ciekawy ale mam pewne "ale". Zacznę od tak zwanego "chińskiego pokoju", dla mnie oczywistym jest iż jest to pewne uproszczenie mające przybliżyć nam sposób przetwarzania informacji przez obecne komputery i pewnym nadużyciem moim zdaniem jest stwierdzenie iż traktuje się go dosłownie twierdząc że ludzie mogą tam coś zrobić itp (to jak by nagle w przykładzie  o dwóch braciach -jednym poruszającym się rakietą  z szybkością  bliskiej światła,a drugim pozostającym na ziemi stwierdzić iż ten pierwszy nie przeżył by przeciążeń więc twierdzenie jakie ma to obrazować jest nieadekwatne).
Druga sprawa to coś co nie do końca mi pasuje, czyli zupełnie niczym nie umotywowane wyodrębnianie i uznawanie za coś lepszego tylko tej cząstki naszego umysłu zwanego świadomym umysłem (jeśli w ogóle coś takiego istnieje a nie jest tylko pewną iluzją i może jest nierozerwalne w tej postaci z resztą układu). Przecież to jak nasza świadomie-logiczna cześć umysłu działa wpływa wiele czynników nie tylko wewnętrznych (jak hormony, atawizmy, itp) ale i zewnętrznych (odbieranie bodźców) jak i społecznych (miejsce w grupie). Dlatego najpierw powinniśmy zbadać jak funkcjonuje nasz umysł (wraz z ciałem które na niego wpływa i vice versa) nim wydamy osąd co jest czym.

czyżby? no to spójrzmy na taką oto zasadę posłuszeństwa wbudowaną w nas: odczuwanie bólu. Powiesz pewnie iż zasada ta jest pomocna, co nie zmienia tego iż zmusza cię do posłuszeństwa niezależnie od tego czy chcesz tego czy nie np: mimo że wiesz iż u dentysty jesteś by sobie pomóc nie zmienia to faktu iż potrzebujesz znieczulenia bo przymus bólu niezależnie jak racjonalnie wiesz że to dla ciebie dobre będzie powodował reakcje obronną organizmu (w postaci rzucania się by tego bólu uniknąć) i by pokonać ten przymus użyjesz znieczulenia. Nie mówię już o społecznym przymusie co wykazało wiele eksperymentów. Mamy w sobie zaszczepionych wiele zasad posłuszeństwa które popchną cię do działań sprzecznych z tym co nazwiesz inteligentnym świadomym myśleniem. Możemy sobie uświadomić wiele z tych czynników, dzięki czemu czasami jesteśmy w stanie je obejść (jak znieczuleniem itp) co nie zmienia faktu iż mamy ich na prawdę wiele a jednak nie stwierdzamy iż przekreśla to istnienie u nas inteligencji.

I tu dopiero otwiera się puszka z pandorą w pomidorach, czyli okno na sztuczny fanatyzm. Mechaniczna trauma już dziś nie jest tak dziwacznym określeniem jak pół wieku temu, ponieważ coraz częściej budujemy maszyny, które się uczą.   

Swego czasu - zanim trafiłem na ten portal, przeczytałem (chyba w GW) o eksperymencie, który jakoś przeszedł bez echa. Otóż pewien badacz skonstruował proste roboty sterowane sieciami neuronowymi. Potrafiły poruszać się, poszukiwać źródeł energii (jedzenie!) i prowadzić prostą komunikację pomiędzy sobą. Otóż okazało się, że te stworki-robociki zaczęły zachowywać się jak istoty żywe. Niektóre z nich, po znalezieniu źródła energii, pozostawiały tę informację dla siebie, pozwalając innym "umrzeć". Inne natomiast zachowywały się odwrotnie. Przekazywały informację o energii innym członkom "stada", czasami tak wytrwale, że same zamierały bez energii.
W mojej ocenie wykazano, że do powstania swoistej moralności czy też sumienia (jak zwał, tak zwał) nie jest potrzebny człowiek, a w szczególności jego mózg. Szerszą perspektywą dla mnie jest to, że nie jest potrzebny również żaden bóg.

Czy ktoś też o tym pamięta, czy tylko ja mam jakieś pijane zwidy? :-)

zasada posłuszeństwa, którą inteligencja pozwala obeść, to nie to samo, co narzucenie powstającej inteligencji blokady typu 'nie krzywdź gatunku x'

w młodości czytałem fantastykę i był wątek przeniesienia ludzkiej świadowmości po śmierci człowieka na maszynę. Kojaży mi się to z ideą cybernetycznej duszy, która może przenieść się do innego ciała np. MATRIX. 
Myślę że próba zbudowania sztucznej świadomości podobna jest do poszukiwania kamienia filozoficznego.

Bardzo dobry artykuł. W przemyślany sposób została przedstawiona koncepcja sztucznej inteligencji według Pana Korzeniewskiego. Muszę przyznać, że zgadzam się z autorem w kwestii zbyt ogólnego (pochopnego) nazwania różnych systemów sztuczną inteligencją. Przykładem są tutaj systemy ekspertowe, które są niewątpliwie pewnym rodzajem sztucznej inteligencji. Niemniej jednak nie spełniają wymagań -  jakie stawia przed nimi Pan Korzeniewski - aby można było nazwać je systemami prawdziwie inteligentnymi.

Artykuł nasuwa mi pytanie czy możliwe jest stworzenie kopii świadomości? Skoro każdy sygnał (zewnętrzny jak i wewnętrzny) wpływa na kształtowanie się osobowości, to czy zaraz po wykonaniu dwóch identycznych kopii i przetworzeniu pierwszych sygnałów nie otrzymamy już dwóch różnych bytów?

" iż do powstania samoświadomości i osobowości niezbędne jest także uwikłanie całego systemu w wewnętrzne sprzeczności. Mam na myśli nie tylko czysto poznawczo-logiczne niespójności, ale także konflikt między popędem poznawczym i rozlicznymi innymi popędami (samozachowawczym, przedłużenia gatunku) oraz między osiami przystosowanie-nieprzystosowanie i przyjemność-przykrość. U człowieka owo nagromadzenie sprzeczności i konfliktów stanowi wynik trwającej przez setki milionów lat ewolucji mózgu, gdzie nowe części dodawane były do starych bez żadnego z góry założonego planu, oportunistycznie i niechlujnie wręcz z punktu widzenia perfekcyjnych rozwiązań konstrukcyjnych".
Cytując powyższy fragment Pańskiego tekstu, zgadzam się jedynie na wewnętrzne sprzeczności  w aspekcie poznawczo-logicznym, zaś samą naturę, jej prawa i ewolucję traktuję jako byty pozbawione jakichkolwiek sprzeczności, antynomii. paradoksów. Wewnętrzną sprzeczność w poznawaniu świata, jego opisie, tworzy człowiek z inteligencją in statu nascendi. Natura jest taka jaka jest, zaś fenomen ludzkiej psychiki tworzy negację zdania jednego do drugiego, ujmując ją w koniunkcję.

Pojawił się tu dziwny głos o marzeniach o nieśmiertelności które mogłoby ziścić sztuczne wykreowanie świadomości. To są dwa różne zagadnienia - przeniesienie istniejącej świadomości na inny nośnik i sztuczna świadomość. Wydaje mi się iż to pierwsze raczej jest mało możliwe - co najwyżej wyobrażam sobie powolne zastępowanie neuronów w mózgu innymi materiałami co zapewne przedłuży jego trwałość. Budowanie innej niż ludzka świadomości od podstaw to zupełnie inne zagadnienie. Jak najbardziej naukowo prawdopodobne w przeciwieństwie do kamienia filozoficznego. Zakładanie, iż nie jest możliwe stworzenie SI oznacza moim zdaniem wiarę w duszę i bogów. Bo przecież ewolucja już to "zrobiła"...! Ewolucja "stworzyła" świadomość z będących u jej podstaw materii nieożywionej. My chcemy tego dokonać po swojemu, mając wolę i intencje.

Stworzenie kopii czegokolwiek jest jednoznaczne z kreacją nowego bytu. Gdyby bliźnięta jakimś trafem posiadały identyczne mózgi, miałyby identyczne myśli, ale ich umysły byłyby odrębnymi bytami. Byłoby to cokolwiek osobliwe, choć podobno bliźnięta często myślą podobnie :-) Ale nawet identyczność to przecież nie tożsamość.
Zastanawia mnie jeszcze inna kwestia. Sieciom neuropodobnym na pewno bliżej do symulacji psychiki niż klasycznym digitalnym komputerom, choć nadal jest to (i jeszcze długo będzie) przepaść. Za to zwierzęta wyposażone w mózgi spełniają prawie wszystkie wymagania nakreślone przez prof. Korzeniewskiego, jednak konsekwentnie odmawia im on zaszczytu funkcjonowania na trzecim, psychicznym poziomie rzeczywistości.

Nie widzę, żadnych przeszkód związanych z przeniesieniem świadomości. Jeśli bylibyśmy wstanie przenieść całą bazę wiedzy jednostki (stany wszystkich neuronów i ich układ połączeń) oraz odwzorować całe funkcjonowanie mechanizmów obsługi (bazy wiedzy), to moim zdaniem uzyskamy  kopię świadomości.

Problem w tym, że zaraz po przetworzeniu pierwszych sygnałów kopia stałaby się odrębnym bytem (tak jak pisze kognitywista). Co oznacza, że po pewnym czasie owy sztuczny byt może przedstawiać inne zdanie na dany temat oraz podejmować inne decyzje niż "oryginał". Tym samym ciężko byłoby stwierdzić czy moja kopia (lub przeniesiona świadomość) to nadal ja. Z jednej strony tak, bo gdyby kopia otrzymywała zawsze identyczne dane na wejściu (takie jak "oryginał") to byłaby odwzorowaniem mnie. Jednak w praktyce jest to niemożliwe (za dużo złożonych zależności i zmiennych z otoczenia). Więc czy moja kopia to nadal ja?

Wszystko ok, tylko tego się przyczepię:

> [komputer] realizującego pewien ściśle zdeterminowany algorytm programu 
> (...) dyskretnych symboli i reguł (...) uważam że nie mógłby stać się świadomy.
> (...) „komputer" taki powinien działać (...) jak sieć neuronalna

Sieci neuronalne można z powodzeniem emulować w cyfrowych komputerach. Co więcej współcześnie w większości przypadków tak właśnie się robi, bo to szybciej i taniej niż ciągać realne druty.

Tekst wydaje mi się chybiony z powodu błędu w założeniach.
Autor myli inteligencje z psychiką.

Inteligencja (za wiki) - "umysłowa zdolność do postrzegania, analizy i optymalnej (lub zbliżonej do optymalnej) adaptacji do zmian otoczenia."
Współczesne algorytmy SI są zdolne do postrzegania, analizy i optymalnej adaptacji do zmian otoczenia. Bez problemu mogę w choćby prostą sieć neuronową wbudować "układ motywacyjny" choć de facto ona już go ma (wszak stara się optymalizować), mogę też wprowadzić zamęt (to potrafi każdy programista).

Mimo to testu Turinga moja sieć niestety nie przejdzie.
Dlaczego? Ano dlatego że test Turinga sprawdza co innego niż Szanowny Autor napisał
Znów za wiki "test Turinga to sposób określania zdolności maszyny do posługiwania się językiem naturalnym i pośrednio mającym dowodzić opanowania przez nią umiejętności myślenia w sposób podobny do ludzkiego"

Na przyszłość proponuje dokładniej zbadać temat o jakim zamierza Pan pisać.
Pozdrawiam Wojciech Bielak

Nie zgadzam się z twierdzeniem autora "Jednakże, moim zdaniem, „prawdziwa" inteligencja i myślenie polega przede wszystkim na stawianiu samemu sobie problemów i celów, a nie li tylko na rozwiązywaniu zadań narzuconych z zewnątrz, przez człowieka lub ewolucję, jak to ma miejsce, odpowiednio, w przypadku komputerów i zwierząt". Czyż nie jest tak, że realizowanie się, osiąganie celów, rozwiązywanie problemów związane jest z odczuwaniem przyjemności? Czyż nie jest tak, że autor czerpie przyjemność z rozwiązywania problemów w dziedzinie własnych zainteresowań? Jest to tylko bardziej rozbudowana droga (bardziej wielowątkowa i bardziej wieloetapowa) niż w przypadku mniej inteligentnych zwierząt. Odczuwamy przyjemność z własnej działalności. Czym ta przyjemność różni się od przyjemności z zaspokajania głodu czy popędu seksualnego, tak sensu stricto? Mnie do napisania komentarza skłoniła przyjemność (satysfakcja) związana z podzieleniem się spostrzeżeniem, o którym nikt nie napisał. 

Być może poszukiwanie sposobów na opracowanie czegoś, co nazywa się czasem sztuczną inteligencją (rozumianą jako ludzki sobowtór), jest po prostu nieporozumieniem. Po co nam sztuczna inteligencja? Pracujmy nad tym, co jest po prostu dobre i użyteczne. Ludzka inteligencja i umysłowość to tylko ewolucyjny śmietnik - coś co powinno być poskromione, przekroczone i w końcu porzucone bez żalu.

Istota wywodu: samoswiadomy mozg musiałby posiadac : neuropodobny system polaczen procesorow, byc bardzo zlozony, byc siebie samoswiadomy na sposob czlowieka, miec oczy uszy i nos, czuc sprzeczne popedy i emocje oraz popedy motywacyjne...czyli Ameryki Pan nie odkrył. Truizmy (dziecko by powiedziało: "oczywiste oczywistości":-)). Naukowość Pańskich wywodów przydaje się chyba tylko do tego ,żeby pokazać ,że zrobienie sztucznej inteligencji jest amożebne.
Nikt nie wie jak to sie dzieje ,ze zlozone z martwych atomów biologiczne mózgi mogą być same sebie świadome. Nikt nie wie co trzeba zrobić ,zeby plastikowo-metalowe procesory złozone z martwych atomów mogły być same siebie swiadome. Wszystkie rozważania na ten temat to  pseudo-filozofia nie nauka. Mozemy poznać zapis  dyskietki, odpowiednie pliki fizyczne polaczenia pomiedzy poszczególnymi plikami,ale nigdy nie pojmiemy, jak to mozliwe zeby płyta CD złozona z martwych atomów mogła być samoświadoma. Widać mózg ludzki nie jest w stanie sam siebie do końca zrozumieć, a ten koniec to istota sprawy! "Prędzej wielbład przejdzie przez ucho igielne niz ludzkość zrozumie istotę samoświadomości".

Niektórzy twierdzą, że coś takiego jak samoświadomość w ogóle nie istnieje. Moim zdaniem, warto brać ich na poważnie.

Ostatnio zajmuję się świadomością ekonomiczną, ale najpierw muszę "to coś" zdefiniować, więc się przyglądam świadomości społecznej. Wiem, jest to bardzo mgliste pojecie, ale własnie dzięki AI i modelom Agent-based świadomość społeczna zaczyna być ... symulowana. Przy okazji poznania nowych dziedzin mam trochę niezłej zabawy:
www.cmol.nbi.dk/javaapp.php
(The Physics of Fashion Fluctuations itp :)

ccl.northwestern.edu/netlogo/models/index.cgi
(pouczające AIDS)

a to z innej beczki - najlepsze połączenie sztuki z AI
www.ted.com/tal(*)sen_creates_new_creatures.html

Tego jak z materii nienożywionej nie zrozumiemy intuicyjnie, podobnie jak teorii względności. Pomijając ten niedosyt emocjonalny, który świetnie napędza religie, jest to do zrobienia.

Do pana Jacka Tabisz:
To zrób pan się sam samoświadomym, jak żeś pan taki mądry i twierdzi, że to jest do zrobienia. Do tego żeby zacząć potrzeba niewiele ale żeby kontynuować to potrzebne są super warunki i nowoczesny sprzęt medyczny do dyspozycji.

Witam i dziękuję za komentarze.
Myślę, że problem, czy "implementacja" psychiki człowieka w układach niebiologicznych to już sztuczna inteligencje, czy jeszcze nie, to głównie kwestia definicji. Niewątpliwie, byłoby to bardzo istotne osiągnięcie, pokazujące że psychika nie zależy od tworzywa jej nośnika (jest to więc testowalny problem nukowy). Można by ją nazwać "soft AI", w odróżnieniu od "hard AI", a więc ambitnego stworzenia zupełnie nowej AI.
Nie może być dwóch idealnie identycznych psychik już "w poczęciu", ze względu na nieoznaczoność mechaniki kwantowej a także inne położenie przestrzenne (implikujące nieco inne natężenie pól grawitacyjnych, elektrycznych itd.). Oczywiście, różnice będą się nawarstwiać w wyniku odmiennych doświadczeń i procesów mózgowych, przynajmniej częściowo podlegających indeterminizmowi chaotycznemu.
Uwaga, że psychikę można implementować w komputerze na wyższym poziomie, niż język maszynowy komputera jest ciekawa i przynajmniej częściowo słuszna. Ale trzeba by pamiętać także o implementowaniu niezdeterminowania kwantowego i chaotycznego.
Kwestia "posłuszeństwa" - nic nie jest czarno-białe. Psychika ma zarówno komponentę "reaktywną" ("posłuszeństwo"), jak i autonomiczną (nie zdeterminowaną bezpośredną bodźcami z otoczenia).

Szacunek do mądrości jest w psychice każdego człowieka bo jest to naturalne.