Vyznání o nedokonalosti

Re: Vyznání o nedokonalosti

Příspěvekod honzam » úte 30. kvě 2023 17:25:04

Existuje riziko vyhynutí, varují už i šéfové firem vyvíjejících AI

Nové prohlášení iniciativy Center for AI Safety přitáhlo pozornost řady odborníků včetně šéfa společnosti Open AI nebo vedoucího projektu DeepMind v Googlu. Oba se přihlásili k varování před rizikem, že by nekontrolovaný rozmach umělé inteligence mohl vést až k vyhynutí lidstva.

„Zmírnění rizika vyhynutí kvůli umělé inteligenci by mělo být globální prioritou spolu s dalšími riziky společenského rozsahu, jako jsou pandemie a jaderná válka,“ píše se v prohlášení organizace Center for AI Safety (CAS), která reaguje na nekontrolovaný neregulovaný vývoj v oblasti umělé inteligence.

Výzvu vedle dalších odborníků podepsali i lidé, kteří se vývojem systémů AI zabývají, jako je technologický šéf Microsoftu Kevin Scott, Daniela a Dario Amodei z Anthropicu, Sam Altman a Ilya Sutskever z firmy, která vyvinula ChatGPT, nebo Shane Legg či Demis Hassabis, kteří v Googlu pracují na systému DeepMind. Vedle nich však řada jiných varuje naopak před zbytečnou panikou.

Zdroj: https://www.idnes.cz/technet/pc-mac/ai-centre-for-safety-openai-google-internet-vyhynuti-lidstva-umela-inteligence.A230530_155708_hardware_vse

https://www.safe.ai/statement-on-ai-risk
E PLURIBUS UNUM
Uživatelský avatar
honzam
 
Příspěvky: 2923
Registrován: pon 13. zář 2010 16:09:02
Poděkoval: 63
Poděkováno: 127-krát v 120 příspěvcích

Re: Vyznání o nedokonalosti

Příspěvekod honzam » úte 19. pro 2023 11:10:21

http://vp.inspiruj.cz/viewtopic.php?f=2&t=783&start=20#p22592

Objev, který by mohl ohrozit lidstvo. Co předcházelo odvolání Altmana?

Proč byl Sam Altman odvolán z čela OpenAI? Několik výzkumných pracovníků této americké společnosti údajně krátce předtím varovalo správní radu v dopise před „přelomovým objevem v oblasti umělé inteligence (AI), který by podle nich mohl ohrozit lidstvo“. Informovala o tom agentura Reuters s odvoláním na dva informované zdroje.

Dopis a objev podle nich byly klíčovými momenty před tím, než správní rada Altmana minulý týden v pátek překvapivě odvolala. Autoři dopisu na žádost o komentář nereagovali.

Altman po vyhazovu přešel do Microsoftu, který firmu OpenAI podporuje. Když ale většina zaměstnanců OpenAI pohrozila odchodem, pokud se Altman do šéfovského křesla nevrátí, věci nabraly nový spád. Za jeho návrat do čela OpenAI lobbovali i významní investoři. Altman se tak v úterý po bouřlivém vývoji do čela firmy vrátil. Společnost OpenAI vyvinula populární nástroj ChatGPT.

Zdroje agentury Reuters uvedly, že dopis byl jedním z faktorů, které vedly k Altmanovu odvolání. Dalším důvodem podle nich byly obavy z komerčního využití objevu před pochopením jeho důsledků.

Projekt nazvaný Q*
Společnost OpenAI věc nekomentovala. V interním dopise zaměstnancům potvrdila projekt nazvaný Q* (zkratka pro Q Star) i zmiňovaný dopis výzkumných pracovníků správní radě, uvedl jeden ze zdrojů.
Někteří zaměstnanci OpenAI se domnívají, že projekt Q* by mohl být průlomem v hledání takzvané obecné umělé inteligence (AGI), řekl jeden z nich. OpenAI definuje AGI jako autonomní systémy, které překonají člověka ve většině ekonomicky hodnotných úkolů.

Nový model byl podle téhož zdroje schopen řešit určité matematické úlohy. Výzkumníci považují matematiku za hranici vývoje generativní umělé inteligence. V současné době je generativní AI dobrá v psaní a překladu jazyka tím způsobem, že statisticky předpovídá další slovo. Odpovědi na stejnou otázku se mohou přitom značně lišit.

Ovládnutí matematiky, kde existuje pouze jedna správná odpověď, by znamenalo, že by AI měla větší schopnosti uvažování připomínající lidskou inteligenci. To by se mohlo uplatnit například v novém vědeckém výzkumu, domnívají se odborníci.

Na rozdíl od kalkulačky, která dokáže řešit omezený počet operací, dokáže AGI zobecňovat, učit se a chápat. V dopise správní radě výzkumníci upozornili na schopnosti a potenciální nebezpečí AI, uvedly zdroje.

https://www.novinky.cz/clanek/internet-a-pc-software-objev-ktery-by-mohl-ohrozit-lidstvo-co-predchazelo-odvolani-altmana-40451759

https://www.imf.org/en/Publications/fandd/issues/2023/12/Scenario-Planning-for-an-AGI-future-Anton-korinek
https://www.imf.org/-/media/Files/Publications/Fandd/Article/2023/December/30-33-korinek-final.ashx

E PLURIBUS UNUM
Uživatelský avatar
honzam
 
Příspěvky: 2923
Registrován: pon 13. zář 2010 16:09:02
Poděkoval: 63
Poděkováno: 127-krát v 120 příspěvcích

Re: Vyznání o nedokonalosti

Příspěvekod honzam » sob 27. led 2024 10:27:59

https://www.novinky.cz/clanek/veda-skoly-ai-uz-nahrazuje-detem-kamarady-40458422

AI už nahrazuje dětem kamarády

Všemožné formy umělé inteligence už používají v různé míře dvě pětiny dětí druhého stupně základní školy. Některým už chatboty nahrazují kamarády. Vyplývá to ze zjištění společnosti Scio.
Podle jejího průzkumu mezi 5200 žáky druhého stupně s umělou inteligencí pracuje 41 procent z nich. Desetina uvedla, že každý den, dalších 15 procent ji užívá alespoň několikrát týdně.
Nejoblíbenější aplikací je ChatGPT, v závěsu za ním Snapchat a s ním spojená My AI, která umožňuje vytvářet virtuální rádce a přátele.
E PLURIBUS UNUM
Uživatelský avatar
honzam
 
Příspěvky: 2923
Registrován: pon 13. zář 2010 16:09:02
Poděkoval: 63
Poděkováno: 127-krát v 120 příspěvcích

Re: Vyznání o nedokonalosti

Příspěvekod honzam » pát 16. úno 2024 16:39:58

https://www.zive.cz/clanky/sora-text-to-video/sc-3-a-226631/default.aspx

Sora vytvoří video z textového zadání. OpenAI znovu předběhlo konkurenci, výsledky jsou úžasné.

Nejdůležitější je toto video. Pusťte si ho, nastavte větší formát a kvalitu. A zkuste si představit, jak by na vás zapůsobilo, kdybyste nečetli titulek článku a netušili, o co jde.

OpenAI, tvůrce známého ChatGPT, připravil AI model nazvaný Sora. Je to nástroj typu text-to-video, který z napsaného zadání dokáže vygenerovat videoklip. Jak jste už viděli v ukázce, výsledky jsou na úplné jiné úrovni, než jsme doposud u služeb tohoto charakteru mohli vídat.

Oficiální stránka

https://openai.com/sora

OpenAI Releases SORA the BEST AI Video Generator | STUNNING visuals, details and physics.

E PLURIBUS UNUM
Uživatelský avatar
honzam
 
Příspěvky: 2923
Registrován: pon 13. zář 2010 16:09:02
Poděkoval: 63
Poděkováno: 127-krát v 120 příspěvcích

Předchozí

Zpět na Úvahy a zamyšlení

Kdo je online

Uživatelé procházející toto fórum: Žádní registrovaní uživatelé a 28 návštevníků

cron