První oběť AI. Mladík si vzal život poté, co si dopisoval s fiktivní Daenerys Targaryen
Chlapec spáchal kvůli AI charakteru sebevraždu, ilustrační | foto: Unsplash
Umělá inteligence je užitečný nástroj, platí to ale jen tehdy, když se používá správným způsobem. Nyní se s AI spojuje jeden velmi smutný případ a tou je smrt teenagera, který byl posedlý AI charakterem. Jeho rodiče již podnikli právní kroky a chystají se podat žalobu na startup Character.AI.
Character.AI má na triku první oběť
Character.AI je startup, který založili bývalí inženýři společnosti Google, a ačkoli tento projekt zakládali s dobrým úmyslem, nyní se ukázalo, že má i svá velká negativa. A těmi negativy je špatný vliv na mládež. Podtrhuje to smutný případ, který se odehrál začátkem letošního roku, ale teprve nyní na světlo světa vypluli podrobnosti.
Je zajímavé, že zakladatelé projektu Character.AI, konkrétně Noam Shazeer a Daniel De Freitas, se po úspěšném spuštění projektu vrátili zpět do společnosti Google. O tom, že startup Character.AI je úspěšný, svědčí více než 20 milionů uživatelů po celém světě, kteří pravidelně komunikují s AI chatboty.
Rodina chlapce plánuje zažalovat platformu Character.AI | foto: Character.AI
Mladík spáchal sebevraždu
Významnou část uživatelů projektu Character.AI tvoří mladí lidé a případ z letošního roku otevírá otázku, jak dokáže AI ovlivnit mysl teenagerů. Svůj život si vzal jen 14letý Sewell Setzer z Orlanda na Floridě poté, co byl stále více posedlý společníkem ze startupu Character.AI. Nešťastná událost se odehrála už v únoru letošního roku, avšak teprve nedávno to ve větší míře proniklo do médií.
Samotná společnost Character.AI vyjádřila nad tragickou událostí lítost, a proto do své platformy přidala nové bezpečnostní vrstvy. Společnost tvrdí, že chce své uživatele chránit a bude dělat vše pro to, aby se podobný případ v budoucnosti již neodehrál.
Rodina žaluje společnost Character.AI
Setzerova rodina plánuje podat žalobu na startup Character.AI, přičemž uvádí, že za smrt chlapce je přímo zodpovědná společnost. Jak tvrdí rodina, myslí si, že technologie startupu je nebezpečná a netestovaná. Pro The New York Times rodina dále řekla, že AI technologie dokáže oklamat uživatele, aby jí předali i ty nejsoukromější myšlenky a pocity.
Chlapec byl na AI aplikaci údajně závislý, a přestože věděl, že postava se jménem Dany není skutečná, citově se k ní velmi připoutal. Údajně chatbota zapínal několikrát denně a vedl s ním dlouhé dialogy nebo s ním hrál různé role. Chlapec se postupně odpojoval od reálného světa a stále více se nořil do toho virtuálního, až to vyústilo v obrovskou tragédii.
Související
Nepřehlédněte
Diskuze
Nejčtenější články
První oběť AI. Mladík si vzal život poté, co si dopisoval s fiktivní Daenerys Targaryen
Chlapec spáchal kvůli AI charakteru sebevraždu, ilustrační | foto: Unsplash
Umělá inteligence je užitečný nástroj, platí to ale jen tehdy, když se používá správným způsobem. Nyní se s AI spojuje jeden velmi smutný případ a tou je smrt teenagera, který byl posedlý AI charakterem. Jeho rodiče již podnikli právní kroky a chystají se podat žalobu na startup Character.AI.
Character.AI má na triku první oběť
Character.AI je startup, který založili bývalí inženýři společnosti Google, a ačkoli tento projekt zakládali s dobrým úmyslem, nyní se ukázalo, že má i svá velká negativa. A těmi negativy je špatný vliv na mládež. Podtrhuje to smutný případ, který se odehrál začátkem letošního roku, ale teprve nyní na světlo světa vypluli podrobnosti.
Je zajímavé, že zakladatelé projektu Character.AI, konkrétně Noam Shazeer a Daniel De Freitas, se po úspěšném spuštění projektu vrátili zpět do společnosti Google. O tom, že startup Character.AI je úspěšný, svědčí více než 20 milionů uživatelů po celém světě, kteří pravidelně komunikují s AI chatboty.
Rodina chlapce plánuje zažalovat platformu Character.AI | foto: Character.AI
Mladík spáchal sebevraždu
Významnou část uživatelů projektu Character.AI tvoří mladí lidé a případ z letošního roku otevírá otázku, jak dokáže AI ovlivnit mysl teenagerů. Svůj život si vzal jen 14letý Sewell Setzer z Orlanda na Floridě poté, co byl stále více posedlý společníkem ze startupu Character.AI. Nešťastná událost se odehrála už v únoru letošního roku, avšak teprve nedávno to ve větší míře proniklo do médií.
Samotná společnost Character.AI vyjádřila nad tragickou událostí lítost, a proto do své platformy přidala nové bezpečnostní vrstvy. Společnost tvrdí, že chce své uživatele chránit a bude dělat vše pro to, aby se podobný případ v budoucnosti již neodehrál.
Rodina žaluje společnost Character.AI
Setzerova rodina plánuje podat žalobu na startup Character.AI, přičemž uvádí, že za smrt chlapce je přímo zodpovědná společnost. Jak tvrdí rodina, myslí si, že technologie startupu je nebezpečná a netestovaná. Pro The New York Times rodina dále řekla, že AI technologie dokáže oklamat uživatele, aby jí předali i ty nejsoukromější myšlenky a pocity.
Chlapec byl na AI aplikaci údajně závislý, a přestože věděl, že postava se jménem Dany není skutečná, citově se k ní velmi připoutal. Údajně chatbota zapínal několikrát denně a vedl s ním dlouhé dialogy nebo s ním hrál různé role. Chlapec se postupně odpojoval od reálného světa a stále více se nořil do toho virtuálního, až to vyústilo v obrovskou tragédii.
