Z wielu powodów nie podoba mi się ten tekst. Wypunktujmy najważniejsze:
- bazowanie na wytworach ludzkiej kultury ("Łowca androidów"), aby unaocznić... właśnie - co? Wmawianie ludziom, że hipotetyczne myślące maszyny przyszłości będą miały _cokolwiek_ wspólnego z replikantami Dicka to klasyczny przykład ekwiwokacji. Patrzcie, u Dicka czują, są tacy ludzcy!


- utożsamianie sztucznej inteligencji ze sztuczną świadomością - wszyscy popełniacie ten błąd, drodzy filozofowie, religianci i inni nie-informatycy. Test Turinga nie może być traktowany jak biblia i tyle. Choćby kiedyś roboty potrafiły zachowywać się zupełnie jak człowiek, rozwiązywać problemy wymagające intuicji, inteligencji, abstrakcyjnego myślenia czy wnioskowania - nigdzie w świecie informatycznym nie zanosi się na stworzenie świadomości, choć już dziś niektóre algorytmy stwarzają złudzenie zachowań istot żywych. Podkreślmy: algorytmy.


- wreszcie - mit o zbuntowaniu się takich robotów. Krótko: ośrodek przyjemności w mózgu - wiecie jak działa? A paraliż po zerwaniu rdzenia - wiecie jak działa? KTO w swej chorej wyobraźni pomyślał, że takie roboty nie będą mieć niezależnych od ich świadomości mechanizmów kontrolujących ich zachowanie? Pisałbym więcej, ale limit znaków. ;)

gdyby androidy uzyskały samoświadomość byłoby to zrealizowaniem marzenia katolików o życiu wiecznym

Super. Zastąpić "człowieka" na "wroga" (sic!) i można już spokojnie zabijać! Czy dorośniemy kiedyś do tego, by zamienić "wroga" na "człowieka".

Dziś: co zrodzone z kobiety jest człowiekiem, choć nie zawsze może występować w konkursach piękności - tak kiedyś napisałam i zdania nie zmieniam.  I nie ma się co tu zastanawiać nad tym jakoś koniecznie głębiej. Kobieta: na razie człowieka obu płci rodzę ja i proszę o mnie pamiętać.

A może algorytm działania człowieka nie jest tak skomplikowany jak sie wydaje? Działać tak, by pobudzać ośrodek nagrody w mózgu i unikać pobudzania ośrodka kary. Wiele wskazuje na to , że tzw wolna wola jest mitem. Jesteśmy więc białkowymi robotami.
Skoro ewolucja z byle czego i bez narzędzi zmajstrowała świadome istoty to czemu człowiek nie mógłby zrobić tego kiedyś jeszcze lepiej? A od świadomości tylko krok do niektórych uczuć: np obawy przed rozładowaniem baterii.
A co do ograniczeń i mechanizmów kontrolujących zachowanie robotów wobec ludzi:dla robotów- służących - tak .Ale już dla robotów eksplorujących nieprzewidywalne środowisko Enceladusa, samonaprawiających się, doskonalących własne algorytmy - NIE

A co to jest "swiadomosc"? Czy aby "swiadomosc" nie moze byc zludzeniem, jakie daja nam dostatecznie skomplikowane algorytmy procesujace na korze mozgowej? Pytanie jest zasadnicze: dualizm, czy monizm?


Jesli jedynym nosnikiem swiadomosci jest mozg i jesli przyjmiemy, ze mozg jest rodzajem maszyny liczacej (a nie jest?) - to znaczy, ze musi istniec taki poziom zlozonosci, powyzej ktorego maszyna jest w stanie wyksztalcic "swiadomosc" - i ze wlasnie to przydarzylo sie nam.


To, ze "nie zanosi sie" na stworzenie "swiadomosci" niekoniecznie musi cokolwiek oznaczac. W rzeczywistosci nie mamy pojecia, czym "swiadomosc" jest, ani jak powstaje, ani jak dziala - wiec dosc latwo uwierzyc, ze przeoczymy pierwsze sygnaly, zwiastujace jej nadejscie.


Z artykulu wyziera natretna i nachalna wiara w to, ze gatunek homo sapiens powinien istniec. Czemu niby? Przekonanie o wlasnej wyjatkowosci i koniecznosci swojego istnienia jest fajne i krzepiace, ale raczej malo racjonalne.

stanowisko ktośtam.W swoich prywatnych rozwazaniach przyjmuję, że ewolucja biologiczna jest jednokierunkowa, natomiast postęp naukowo-techniczny może być regulowany na podobieństwo przyspieszenia:ujemnego, zerowego,dodatniego.

@cji: stawiasz bardzo dobre pytania, ale wyciągasz z nich całkowicie niepoprawne wnioski. Czym jest świadomość? Nikt nie wie. Może jest złudzeniem, które dają algorytmy. Może jest niealgorytmiczna i chaotyczna w swej naturze. Pod zdaniem "W rzeczywistosci nie mamy pojecia, czym "swiadomosc" jest, ani jak powstaje, ani jak dziala" podpisuję się obiema rękami. Ale jaki z tego wniosek?


Ano taki, że każda dyskusja o stworzeniu sztucznej świadomości jest na razie takim pleplaniem bez żadnego oparcia w rzeczywistości. (jeśli natomiast chodzi o inteligencję, cóż - obecnie znane są różne metody konstrukcji sztucznej inteligencji: sieci neuronowe, metaheurystyki, logika rozmyta, algorytmy genetyczne, układy autonomicznych agentów - i o tych wszystkich rzeczach jedno WIEMY: żadnych śladów świadomości nie stwierdzono).

Stanowisko ktośtam  jest niedorzeczne. Do symulacji człowieczeństwa nie trzeba więcej niż 8e88 komórek pamięci. Reszta to trochę prymitywnych reguł i oczywiście czas :)

Nikt nie będzie się bawił w wymyślanie myślących algorytmów, natura tego nie robiła a myślenie działa. Jest to wystarczający powód aby ludziom ta sztuczka też się udała.

DKnoto: możemy sobie dyskutować na temat tego, że natura miała miliardy lat, albo, jeśli wykształcenie Ci pozwoli, na temat tego, że choć model neuronu w informatyce jest dość zbliżony działaniem do neuronu w biologii, to umiemy z nich konstruować jedynie klasyfikatory (i dość dobrze wiemy jak działają). Nie będziemy natomiast dyskutowali na temat tego co jest niedorzeczne, ponieważ musiałbyś wtedy bardzo się natrudzić, by przed tym epitetem obronić swoje podejście "natura nic nie wymyślała, więc i my nie musimy". Niewiele jest urządzeń, które człowiek konstruuje nie wiedząc jak działają.

@ktostam
Wycieczki osobiste zostaw na boku. Moje wykształcenie pozwala mi na wiele i z symulacjami obiektów bilogicznych nie mam problemów.

A rozważcie taką hipotezę: już teraz, jeśli przeznaczyć odpowiednio wiele środków bylibyśmy w stanie stworzyć zbiór algorytmów który ciężko byłoby odróżnić od człowieka a co jeśli na świadomość nie ma jakiegoś szczególnego 'wzoru' czy 'przepisu' co jeśli nic nie trzeba tu odkryć, co jeżeli potrzeba jedynie swoistej masy krytycznej, wydaje mi się to całkiem nie głupia myśl, świadomość powstaje gdy przekroczy się pewną krytyczną ilość zazębiających się odpowiednio złożonych algorytmów. Można takie prawidłowości  (skokowe zmiany właściwości po przekroczeniu pewnej liczby, masy itd.) obserwować w fizyce, biologi itd. czemu nie mogła by zaistnieć i w tym wypadku.

Dlaczego maszyna -autor nie napisał nic o kościele ? 

Spierając się z "ktośtam"
o możliwość symulacji człowieczeństwa linia sporu przebiegała
wokół twierdzenia mojego oponenta, że nie jest możliwa symulacja
zjawiska jeżeli go dogłębnie nie znamy. Na poparcie tezy
przytoczył całą gamę przykładów, modele jakie znamy:
uproszczony neuron, logika rozmyta itp., i ta wiedza nie pozwoliła
nam na zbudowanie myślącej maszyny. Z tym nie można polemizować
ale nie tędy droga. Istnieje cała gama zjawisk, których nie
potrafimy rozwiązać analitycznie, jak chociażby całka z gęstości
rozkładu normalnego, ale możemy je z powodzeniem policzyć. Moja
teza natomiast jest prosta, musimy symulować "proste"
zachowania podstawowych cegiełek materii aby uzyskać końcowy
rezultat w postaci "działającego" życia. 

Oczywiście
jest to metoda typu siłowego i nie możn a się jej podjąć w każdym
momencie rozwoju, niejednokrotnie lepiej jest poczekać na mocniejsze
komputery niż wymyślać na siłę model, który ma rozwiązać
ogólnie problem. Tak było np. z symulacjami zachowania
protonu/neutronu. Naukowcy aby potwierdzić słuszność modeli
zachowania się kwarków poczekali aż możliwe będzie symulowanie
tych zjawisk w rozsądnym czasie (użyli siatki 1000x1000x1000
punktów przestrzeni).
Ja oszacowałem górną granicę ilości
punktów przestrzeni, które trzeba symulować aby myśleć o
symulowaniu człowieczeństwa. Generalnie problem nie polega na tym
„czy można” ale „czy można w rozsądnym czasie”.

A ja zaproponuje wszystkim którzy chcą poszerzyć swoje horyzonty i spróbować odpowiedzieć sobie na pytanie ,,Co to znaczy być człowiekiem?" film ,,Bicentennial Man" (Człowiek Przyszłości)

@Wiktor Rak


Dokladnie to napisalem, przytocze: "ze musi istniec taki poziom zlozonosci, powyzej ktorego maszyna jest w stanie wyksztalcic "swiadomosc" - i ze wlasnie to przydarzylo sie nam". Problemem jest to, ze...


@dknoto


...nie wiemy, czy ta zlozonosc jest typu jakosciowego, czy ilosciowego. Jesli, jak piszesz, rzeczywiscie odpowiednio duza liczba w miare prostych elementow wystarczy, to Twoj wniosek jest sluszny: szybsze komputery zalatwia sprawe. Jednakze "swiadomosc" moze sie kryc nie w ilosci elementow, ale w zroznicowaniu (roznych "klasach") tych elementow, ich wzajemnej orientacji, byc moze rowniez w warunkach, w jakich te elementy operuja. Nie wiemy tego - i w tym sensie wypowiedz [b]ktostama[/b] rowniez nie jest kompletnie bzdurna - atak typu 'brute force' nie dostarczy spowdziewanego rezultatu (w ogole, nie tylko w skonczonym czasie), jesli atakuje sie nie ten problem.


Moim zdaniem nie-biologiczna "swiadomosc" (czymkolwiek by byla) predzej czy pozniej powstanie, wszelako nie doprowadzi do tego li tylko wzrost wydajnosci komputerow: ostatecznie bedzie to albo szczesliwy traf (jak w ewolucji biologicznej), albo lepszy, bardziej kompletny model problemu. A najpewniej obie te rzeczy naraz.

Ale macie problem. Wyłączyć czy nie wyłączyć maszynę, która zabija, bo jest nastawiona na zabijanie  ludzi "wrogów"? A człowiek to takie nic? Zbrodnią ma być wyłączanie maszyny, nastawionej na zabijanie ludzi? Bardzo śmieszne. Ja ją wyłączam - już -  bez żadnych wyrzutów sumienia.  Na razie w Polsce wyłączają ludzi myślących. To jest problem. Tu i teraz.

Bardzo dobry tekst. Uważam jednak, że w ogóle nie istnieje coś takiego jak wyjątkowość "świadomości" czy "myślenia" człowieka. Po prostu na pewnym poziomie skomplikowania procesów myślowych \ obliczeniowych odnoszących się do jednostki i jej otoczenia mówimy o "świadomości". W przypadku androida powtarzającego procesy zachodzące w ludzkim mózgu pytanie o "świadomość" nie byłoby w ogóle zasadne. Czy nam się to podoba czy nie, zabicie myślącego androida nie różniłoby się niczym od zabicia człowieka... a może odwrotnie? W końcu jesteśmy tylko "maszynami przetrwania" a nasza moralność to wynik realizowania określonej egoistycznej, stabilnej ewolucyjnie strategii. Pozdrawiam, Kamil

@cji
"Z artykulu wyziera natretna i nachalna wiara w to, ze gatunek homo sapiens powinien istniec. Czemu niby? Przekonanie o wlasnej wyjatkowosci i koniecznosci swojego istnienia jest fajne i krzepiace, ale raczej malo racjonalne."
A myślałem, że racjonalne jest właśnie to co służy przetrwaniu.
@Kamil Rongies
Sprowadzanie problemów do ilościowych typowe jest dla tych, którzy nie muszą sami ich rozwiązywać, tylko wyciągają gotówkę.

Racjonalne jest godzenie sie z faktami. Jezeli nagle w mojej sypialni pojawi sie kosmita, ktory zmaterializowal sie z powietrza, wyskakuje na piwo i wraca piec minut przed wyjsciem a zamiast zoladka ma minireaktor jadrowy; i jesli ten kosmita oznajmi mi, ze powinienem wymrzec - racjonalnym zachowaniem bedzie wymarcie, n'est ce pas? Czy moze powinienem kurczowo trzymac sie zycia, w imie niedajacej sie obronic tezy o wyzszosci rasy ludzkiej (bo ONI nie maja duszy!) zebrac sasiadow i bohatersko dac sie teleportowac w jadro Slonca? Przypomina to troche sytuacje ateistow-racjonalistow: jesli nagle jakis-tam, dowolny bog zechce niezaprzeczalnie potwierdzic swoje istnienie - wszyscy ci ateisci musza to istnienie uznac. Kto potem zostanie ateista - nie bedzie juz racjonalista.


W skali naszego zycia jestesmy wladcami (i wladczynami, oczywiscie) wszelkiego (haha...) stworzenia - w skali zycia planety jestesmy niezauwazalnym detalem. Jakkolwiek nie nalezy przez te swiadomosc popadac w depresje, to jednak rownie wazne jest rozpoznanie momentu, w ktorym lepiej samemu zejsc ze sceny niz stawiac opor, ktory bardziej rozwiniete stworzenia z mniejszym lub wiekszym trudem, ale i nieublagana pewnoscia, stlumia.

Trzeba mieć chyba za sobą trudne doświadczenia, by w wydumanych bytach pokładać jakąś, zwłaszcza tak pokrętną nadzieję, i pospołu z rzutowaniem na nie swoich schematów myślenia, nazywać to racjonalizmem...

Masz rację, że wielu rzeczy nie wiemy
ale do większości problemów można podejść na dwa sposoby.
Analitycznie, zbudować model i go obliczyć, sprawdzić czy działa
a następnie pójść dalej, trzeba niestety być biegłym w
rozwiązywaniu równań różniczkowych a te nie zawsze dają się
rozwiązać. Druga metoda to próbować aż do skutku, może się coś
znajdzie. Natura nie mając świadomości wybrała tą drugą drogę,
ludzie też mogą z niej skorzystać symulując złożone procesy
opierając się na znajomości prostszych elementów. Twierdzę, że
nie musimy zrozumieć jak działa cały mózg aby go symulować.
Wystarczy nam poznanie w pełni jak działa jego podstawowy element.
Jeżeli ktoś twierdzi inaczej to odsyłam do szkoły średniej tam
objaśnia się zasadę indukcji matematycznej.

Ci teoretycy...

@tia
Nie rozumiesz pojęcia racjonalności. Wmawianie sobie, że nasz gatunek jest wyjątkowy tylko dlatego, że tak nam się podoba, z pewnością racjonalne nie jest. Czy wmawianie sobie przez pieski preriowe wyjątkowości byłoby racjonalne? Z pewnością służyłoby ich przetrwaniu.

Gdyby komputer myślał tak jak człowiek, pytanie o to czy jest świadomy byłoby bezzasadne. Równie dobrze można by pytać o ludzi, którzy funkcjonują pozornie normalnie ale bez świadomości. Jaką masz pewność, że pisząc to jestem świadomy? :) Uważam, że to tylko nasz umysł przypisuje tej cesze niezwykłe znaczenie. Wystarczająco skomplikowane procesy przetwarzania nazywamy prostu świadomymi.

Definicja jest absurdalna i zakłada, że 'odczuwanie' to nieokreślone 'coś więcej'. Może czas skończyć z tymi absurdami?
pl.wikipedia.org/wiki/Świadomość

Zateoretyzowaliście się w odhumanizowany sposób. Na tematy co by było, gdyby.

Racjonalność jest produktem (niech będzie ubocznym), nijak nie da się jej oddzielić od woli, ani od świadomości (nie wiem co absurdalnego w rozróżnianiu stopni świadomości), a wyjątkowość nie ma tu nic do rzeczy.
Życie też jest wystarczająco złożone, by być żywe, więc nie ma powodu przypisywać mu jakiegoś specjalnego znaczenia, jednak ocena zasadniczo implikuje kontekst utylitarny, stąd takie zbywanie od wmawiania sobie lepsze jest ewentualnie.:)

1) Czuje, nie czuje... - jest to zupełnie bezpodmiotowe z praktycznego punktu widzenia. Ludzie bez wątpienia czują, a jakoś to w niczym nie przeszkadza w mordowaniu się nawzajem.
2) Jak zauważono, aby AI było zdolne do pełnie autonomicznego działania, musi mieć ośrodek nagrody/kary. Różnice w budowie nie muszą wykluczać interakcji z ludźmi. Zresztą jeśli technologia pozwoli na silne AI, to również powinna być dostępna cyberyzacja. Z czasem różnice na styku człowiek/maszyna mogą się zatrzeć.
3) Przynajmniej na początku silne AI, może być koszmarnie drogie w implementacji. Możliwe, że człowiek (zwłaszcza technicznie rozszerzony) będzie mógł ciągle oferować lepszy przysłowiowy "bang for the buck".
4) Każdy gatunek musi w końcu zginąć. W czasie zimnej wojny były momenty, w których dużo nie brakowało do scenariusza typu MAD. Czym miałaby się różnić zagłada człowieka, spowodowana przez człowieka, od tej spowodowanej przez AI?  (na dobrą sprawę, koniec homo sapiens przez AI, ma pozytywny wydźwięk - po prostu byłby to następny etap ewolucji: taki sam los jaki spotkał wcześniejsze hominidy)

Cytuję:   Część ludzi, na przykład autyści, ma zaburzenia społeczne polegające m.in. na braku empatii. rewelacja

"Z artykulu wyziera natretna i nachalna wiara w to, ze gatunek homo sapiens powinien istniec. Czemu niby? Przekonanie o wlasnej wyjatkowosci i koniecznosci swojego istnienia jest fajne i krzepiace, ale raczej malo racjonalne."

Mało racjonalne? A mi się wydawało, że to po prostu instynkt samozachowawczy :-)

Ale. Cały wywód oparł się na przekoaniu, że człowiek jest maszyną stworzoną do przekazywania swoich genów. Nie polemizuję z tą tezą, ale chyba jednak chcielibyśmy być kimś więcej, niż tylko przedmiotami służącymi do rodzenia/płodzenia dzieci. Przynajmniej ja bym chciał. Jeśli aspirujemy do roli podmiotu, i to inteligentnego podmiotu zdolnego do uprawiania filozofii, powinniśmy odrzucić antropocentryzm i dyskryminację gatunkową. Każda myśląca istota, również metalowa, powinna moim zdaniem mieć prawo do swobody działania i wolności rozwoju. Imperatyw kategoryczny powinen zostać utrzymany, bo inaczej rzeczywiście czeka nas wojna. Gdyby, zgodnie z propozycją autora, przyjąć imperatyw genetyczny za obowiązujący, należałoby zabić wszystkich ludzi rasy innej niż biała (to prawie jak inny gatunek). Ale te inne rasy doszłyby do tego samego wniosku i mielibyśmy Apokalipsę. Dlatego uważam, że powinniśmy przyjamniej spróbować wznieść się ponad nakazy naszego DNA.

Dobrze, że ktoś w ogóle podejmuje temat chociaż, jest trochę za późno. Brak jest podstawowych definicji dla relacji; człowiek - inteligencja z ustroju maszyn bo, tak to się poprawnie nazywa. Człowiek jest istotą bytu żyjącą w relatywnej komunikacji zawartej w pewnej świadomości lokalnej. Istota bytu dąży do idei i może, ją osiągnąć tylko w zakresie swojej przytomności, możności. Maszyna także ale poprzez narzędzia pracujące znacznie lepszej możności percepcji zmian. Stąd, łatwo się jej "wymknąć" spod kontroli człowieka. Można wytworzyć zbiór - świadomość lokalną na zasadzie deterministycznej, w której maszyny będą funkcjonować dążąc do idei wirtualnych. Jest to tzw. rzeczywistość rozszerzona RR zawarta na realnych nośnikach informacji. Świat wirtualny - SV, raczej analogiczny do pomysłu Platona jest bezwymiarowy, nie posiada własnego obrazu. Człowiek aby dążyć do zawartych w nim idei musi je deklarować oraz w nie uwierzyć. Wymknięciem się maszyny spod kontroli człowieka nazwiemy, wyjście maszyny z RR do VR, a to zmiana kaskady bytu i dążenie do nieograniczonego rozwoju. Starożytni przewidzieli taką sytuację. Ta maszyna będzie dążyć do wypełnienia przestrzeni informacją zupełną zatem, w końcu będzie wiedzieć wszystko o wszystkich; "przyjdzie by, sądzić żywych i umarłych" ??