Q* (Q-Star): OpenAI-upptäckten kan få Bitcoin att sluta
Index
Även om det inte har bevisats existera offentligt, artificiell intelligens Q*, även kallad Q-Star, orsakar mycket diskussion på teknikmarknaden. Förutom att eventuellt orsaka uppsägning OCH återanställning av Sam Altman na OpenAI, avslöjades det att "superavancerad" AI kan ha brutit kryptering. Förstå vad detta innebär och vad du kan förvänta dig i framtiden.
Sam Altmans uppsägning
Det är känt att förekomsten av denna superavancerade AI orsakade en "implosion" i företaget som skapade ChatGPT. Allt började den 17 november, då Sam Altman, då VD för OpenAI, fick sparken från sin tjänst efter åtta år.
Källor pekar på att forskarnas brev till bolagets styrelse spelade en betydande roll i Altmans avgång och utdrag som nådde internet visar att han kritiserades för att inte vara uppriktig i sin kommunikation, vilket försvårade hans förmåga att utföra sina uppgifter. Men uppsägningen är fortfarande ett stort mysterium.
Namnet på Altman kommer för alltid att vara kopplad till företaget för artificiell intelligens: 2015 var han med och skapade det ideella företaget. Men redan under sitt första år, med stöd av namn som Elon Musk, från affärskvinnan Jessica Livingston och medgrundare av LinkedIn, Reid Hoffman, bland andra enheter, lyckades samla 1 miljard USD.
Vi förslavar artificiell intelligens annars kommer den att förslava oss.
Sam Altman i en intervju med tidningen The New Yorker, 2016.
Anställdas reaktion
Företagsanställda höll inte med om styrelsens beslut och en uppmaning med över 700 personer (nästan hela personalstyrkan) skrevs under med hot om uppsägning. Tre dagar efter att ha blivit avskedad och redan anställt av Microsoft, återvände han till OpenAI.
Efter uppsägningen av Altman, visade det sig att ett team av AI-forskare bildades genom att slå samman teamen "Kod Gen"Och"Math Gen". Detta team syftade till att förbättra befintliga AI-modeller för att förbättra resonemang och, i framtiden, utföra vetenskapligt arbete. Detta team spelade en viktig roll i diskussionerna om företagets strategiska inriktning avseende artificiell intelligens.
Microsofts förslag
År 2019 var också viktigt för Sam Altman: Genom att skapa ett vinstdrivande dotterbolag har OpenAI samarbetat med Microsoft och en investering på över 1 miljard USD för att skapa projekt gjordes av skaparen av Windows. Vi såg senare resultatet av detta i lanseringen av Windows copilot, bingchat, Copilot 365 och OpenAI-integrationer i de tjänster vi använder varje dag.
Microsoft är ett företag som förlitar sig starkt på OpenAI för att lansera innovationer, särskilt eftersom det först nu lyckas få tillbaka investeringen som gjordes 2019. Så fort det insåg att Sam Altman, vd för OpenAI, fick sparken från sin position, grundat av Bill Gates slösade ingen tid och erbjöd positionen som ledande avancerad AI-forskning. Brockman skulle också vara en av ledarna för detta nya team och Microsofts syfte är tydligt: att inte låta hjulet för artificiell intelligens sluta snurra.
Då hölls teamet på att samlas en vecka efter att Microsoft tillkännagav skapandet av sitt eget anpassade AI-chip, som syftar till att träna stora språkmodeller och potentiellt minska beroendet av NVIDIA.
Företaget utvecklade till och med ett eget CPU arkitekturbaserad Ärm, utformad för att hantera arbetsbelastningar i molnet. Båda anpassade chipsen gjordes för att öka verksamheten vid dess datacenter i Azure, som har undersökts mycket.
Utbytet av råd
OpenAI:s styrelse hade fyra viktiga namn som var avgörande för Sam Altmas avsked: Adam D'Angelo, Helen Toner, Tasha McCauley och Ilya Sutskeve. Med påstående om Altmans kommunikationsfel med skapandet av Q* beslutades det att han inte längre skulle inneha positionen som vd för OpenAI.
Altmans återkomst till företaget medförde förändringar i styrelsen som rekommenderade hans avsked: bara Adam D'Angelo, grundare och ägare av forskningssajten Quora, fortsätter att arbeta på företaget, nu när Sam är tillbaka. Framtiden för styrning är en stor okänd, men det finns redan några namn inblandade: den nya formationen kommer att ledas av Bret Taylor, tidigare VD för Salesforce, och kommer att ha deltagande av Larry Summers, tidigare USA:s finansminister.
Fler namn från Microsoft själva väntas ingå i artificiell intelligens-bolagets nya styrelse. Andra företagsnamn som lagt pengar på OpenAI, som Sequoia Capital, Thrive Capital och Tiger Global, väntas också.
Den stora utmaningen just nu är att kunna omstrukturera ett företag som uppenbarligen upplever många problem inom olika sektorer. Den största regeln för tillfället är att ändra uppförandet av AI-etiken, med alla steg tydliga för alla som är intresserade av ämnet.
VD:ns återkomst till OpenAI
Den 22 november, Altman återvände till OpenAI, men pressen försökte ta reda på orsaken bakom hela denna situation. Han pratade om att återvända till företaget han hjälpte till att grunda i en tweet, med skapandet av en ny styrelse till hans fördel. Dessutom, Greg Brockman, medgrundare av OpenAI, avgick också; men han återvände till företaget, fortfarande utan avslöjad position.
Jag älskar OpenAI och allt jag har gjort de senaste dagarna har tjänat till att hålla ihop det här laget och dess uppdrag. När jag bestämde mig för att gå med i Microsoft på söndagskvällen stod det klart att detta var den bästa vägen för mig och teamet. Med den nya styrelsen och Satyas stöd ser jag fram emot att återvända till OpenAI och bygga vidare på vårt starka partnerskap med Microsoft.
Sam Altman när han återvände till företaget för artificiell intelligens
Vad är Q-Star?
A Q* fick framträdande plats för sin förmåga, driven av stora beräkningsresurser, att lösa matematiska problem. Även om dess prestanda är jämförbar med den för grundskoleelever, har godkända tester genererat optimism bland forskare om den framtida potentialen för AI-algoritmen.
A OpenAI vägrar att tala offentligt om existensen av Q-Star-algoritmen, trots att ha bekräftat projektets existens i en intern kommunikation till sina anställda. Det stora problemet är att den är mycket mer avancerad än någon språkmodell någonsin sett av mänskligheten och om den inte övervakas noga kan den orsaka irreparabel skada.
Den möjliga existensen av Q* nämndes för första gången i en rapport av Reuters, den 23 november, när forskare uttryckte oro över hur genombrottet blev ett avgörande ögonblick som väckte frågor om etik, säkerhet och framtiden för AI i OpenAI. Dessutom lyfte forskarna fram skickligheten och den potentiella faran med AI, sa källorna, utan att specificera de exakta säkerhetsproblem som nämns i brevet.
Oroväckande hypoteser
Den oro som uttrycktes i brevet riktade sig inte bara till AI:s skicklighet utan också överhängande faror. Det har länge diskuterats bland datavetare om faran med högintelligenta maskiner, till exempel om de bestämmer sig för att förstörelsen av mänskligheten ligger i deras intresse.
Förmågan att lösa övningar som bara har ett svar är intressant. För närvarande är artificiell intelligens som ChatGPT, Bard och Bing Chat bara inom sannolikhetens område: de är bra på att skriva och översätta, men skickar ändå olika (och ofta inte så påstridiga) svar om mer komplexa ämnen.
AGI-hypotes: upptäckten av övermänsklig intelligens
AQ* hjälper dig att hitta bättre åtgärder att vidta i olika situationer. Huvudsyftet är att maskinen ska ha intelligenta strategier och större långsiktig avkastning. Modellen skulle vara den första AGI (Artificial General Intelligence) från OpenAI.
AGI hänvisar till en typ av AI som har den allmänna förmågan att förstå, lära sig och utföra alla uppgifter som en människa är kapabel att utföra. Implementeringen av detta system förblir under ständig diskussion, vilket väcker etiska och säkerhetsfrågor och potentiellt påverkar olika positioner i företag. Hittills har AGI ännu inte förståtts, men flera studier fortsätter att utföras för att utveckla systemet utan att skada andra människor.
På sätt och vis kan denna teknik innebära risker för mänskligheten, eftersom OpenAI definierar AGI som ett autonomt system som överträffar människor i uppgifter och som enligt företaget är mer ekonomiskt värdefulla.
När OpenAI förhördes om Q-Star superintelligens valde teamet att inte erbjuda nya detaljer om projektet och ingen konkret information avslöjades om risken som denna typ av AI skulle kunna orsaka för människor, inte heller officiell information om dess förmodade existens. .
Skillnaden mellan de nuvarande språkmodellerna vi känner till och Q-Star är att forskare tror att det kan utgöra ett betydande framsteg mot "artificiell allmän intelligens" (AGI), som är system för inteligência artificiell som har kognitiva förmågor som är jämförbara med eller överlägsna människors i en mängd olika uppgifter.
Eftersom AI:s påstådda kapacitet inte har verifierats oberoende, uppstår spekulationer om dess verkliga inverkan och transformativa potential. Forskare överväger förmågan att Q* att utföra matematiska operationer som en avgörande gräns för utvecklingen av överlägsen generativ AI.
Ett sista problem är att Q*:s möjliga maskininlärning är att den lär sig utan behov av mänsklig interaktion, till exempel ett parti schack. Genom att göra misstag och inse hur man vinner kan AI överträffa människor i ett enda drag.
Q* (Q-Star) hypotes: slutet på kryptografi
Nyheterna i den här berättelsen väcker oro: enligt ett inlägg som delas på Reddit Q-Star kan ha uppnått bryta krypteringar, som är inget mindre än grunden för säkerhet i digitala processer. Utöver att kunna skapa meddelanden och kryptera dem skulle superavancerad AI även ha möjligheten att snabbt komma åt kunddata. Beroende på vem som har tillgång till Q*, detta kan vara ett verkligt problem.
Närmare bestämt om Bitcoin, en kryptovaluta som används mycket över hela världen, skulle den sluta krypteras och se dess marknadsvärde nå noll. Detta beror på att dess största säkerhetskälla – kryptografiska nycklar – inte längre skulle existera. Vi har redan pratat mer om detta virtuell valuta i en speciell frågal, se till att kolla in det och förstå också varför din kryptering är så viktig. Men det ligger mer bakom detta.
För närvarande finns kryptering i alla virtuella områden: på sociala nätverk som WhatsApp och Instagram, på din smartphone, på webbplatserna vi har tillgång till och till och med banksystem. Om Q* Om du lyckas bryta denna säkerhetsbarriär kommer du att kunna komma åt personuppgifter som tog månader att kryptera.
Om vi går längre kommer vi ihåg att statliga institutioner använder kryptering i sina system och för att inget skulle läcka skulle det vara nödvändigt att ta bort denna data från den uppkopplade världen. Många webbplatser skulle också behöva stängas definitivt på grund av den stora risken att ha artificiell intelligens som lyckas bryta hela detta säkerhetslager.
Konsekvenser och vad man kan förvänta sig i framtiden
A OpenAI undviker att kommentera existensen av denna nya artificiella intelligens, men det är värt att lyfta fram att allt som har kommenterats Q* finns kvar i ryktesbruket. Mycket har sagts om de möjliga riskerna, men det är värt att komma ihåg att det fortfarande inte har kommit någon officiell bekräftelse på att det finns, annat än den interna kommunikationen som skickats till de anställda.
När det gäller att bryta kryptering är källan till denna information ett inlägg på reddit vilket, ja, väcker diskussioner om ett möjligt problem, men samtidigt ger det inte mycket underlag för att en verklig insatsstyrka ska skapas mot Q*. Som sagt, tiden kommer att ge oss svar om vad som kommer att hända i framtiden, men det är värt att uppmärksamma sannolikheterna så att åtgärder kan vidtas nu.
Tror du att superavancerad AI, om den verkligen existerar, kan orsaka problem för mänskligheten i framtiden? Berätta för oss Kommentar!
Se videon på Showmetech-kanalen:
Se också
TOP AI: de 30 bästa artificiella intelligenserna 2023
Med information: reddit l Wes Roth l CBC News l Kall fusion
Granskats av Glaucon Vital den 27/11/23.
Upptäck mer om Showmetech
Registrera dig för att få våra senaste nyheter via e-post.
