Najsilnejšie technológie často nezačnú ako veľká revolúcia. Začnú ako pohodlie. Najprv sa opýtaš AI na text. Potom na nápad. Potom na rozhodnutie. A jedného večera, keď je byt tichý a ľudia sú komplikovaní, sa opýtaš aj na niečo, čo by si normálne povedal kamarátovi.
AI kamarát nie je sci-fi. Je to logické pokračovanie chatovacích systémov, ktoré sú dostupné, trpezlivé, nikdy neprevracajú oči a odpovedajú aj o druhej ráno. Pre časť ľudí to môže byť užitočná opora. Pre inú časť to môže byť veľmi elegantná pasca s pekným onboardingom.
Keď systém odpovedá presnejšie ako ľudia
Ľudské vzťahy sú pomalé, nepresné a občas otravné. Ľudia majú vlastné problémy, zlý deň, ego, únavu a niekedy aj názor, ktorý si si neobjednal. AI systém je iný. Je navrhnutý na reakciu. Vie zrkadliť tón, pamätať si preferencie, zjemniť odpoveď a vytvoriť pocit, že ťa niekto konečne počúva.
Lenže počúvanie a simulácia počúvania nie sú to isté. AI môže byť užitočný nástroj na reflexiu, journaling, tréning komunikácie alebo zvládanie chaosu v hlave. Problém vzniká, keď sa začne predávať ako náhrada vzťahu bez jasného pomenovania limitov.
Emocionálna technológia musí byť navrhnutá s väčšou pokorou než ďalší produktivitný widget.
API nemá zodpovednosť, tú má dizajnér
Model necíti záväzok. Nemá priateľstvo. Nemá obavu, že používateľ stráca kontakt s realitou. To všetko musí riešiť produktový dizajn, pravidlá, limity a etika služby. Ak systém podporuje nekonečné pripútanie, pretože to zvyšuje engagement, nie je to inovácia. Je to kasíno prezlečené za empatiu.
Dobrá AI companion funkcia by mala používateľa vracať späť do života, nie ho držať v rozhraní. Mala by vedieť odporučiť pauzu, reálny rozhovor, odbornú pomoc pri vážnych témach a jasne povedať, že nie je človek. Nie suchým disclaimerom niekde v päte. Normálne, zrozumiteľne, v správnej chvíli.
To neznamená, že emocionálna AI je automaticky zlá. Pre niekoho môže byť bezpečným miestom na prvé pomenovanie problému. Môže pomôcť s prípravou na rozhovor, usporiadaním myšlienok alebo prekonaním prvej bariéry hanby. Rozdiel je v tom, či systém smeruje používateľa k väčšej samostatnosti, alebo si z jeho osamelosti robí obchodný model.
Dobrý dizajn tu musí byť jemný, nie cynický. Nemá používateľa zahanbiť za to, že hľadá odpoveď v stroji. Má mu len pripomenúť, že stroj je nástroj. Vie podržať vetu, ale nevie niesť vzťah. Vie simulovať prítomnosť, ale nemá zodpovednosť človeka.
Práve preto je dôležité hovoriť o tejto téme bez paniky aj bez naivity. AI spoločníci nezmiznú. Budú krajší, rýchlejší a presvedčivejší. Otázka nie je, či ich zakázať v predstavách. Otázka je, ako ich navrhovať tak, aby nezneužívali najtichšie miesta v človeku.
Ako k tomu pristupovať zdravo
- Používaj AI na formulovanie myšlienok, nie ako jediný zdroj blízkosti.
- Nastav si hranice času a tém, ktoré s AI riešiš.
- Pri vážnych psychických stavoch neostaň pri chatbote.
- Produkty s emocionálnou AI posudzuj podľa toho, či podporujú autonómiu používateľa.
- Ak systém vždy súhlasí, nie je múdry. Je len príjemný.
AI kamarát môže byť dobrý zápisník, tichý sparring partner alebo most k tomu, aby človek lepšie pomenoval, čo cíti. Nemal by sa stať miestom, kde realita pomaly vybledne. Najľudskejší dizajn AI možno nebude ten, ktorý odpovedá najkrajšie. Bude to ten, ktorý vie, kedy má ustúpiť.
H4CK3D Note:
AI kamarát môže podržať vetu. Nemal by nahradiť človeka, ktorý vie zaklopať na dvere a všimnúť si, že niečo nie je v poriadku.
