Hur kan Amazon använda anpassade AWS -chips för att komma ikapp Microsoft och Google inom AI -fältet?
Enligt CNBC utformar Amazon -teamet två chips, kodnamnet inferentia och träning, för träning och påskyndande generativ konstgjord intelligens.Dessa chips ger ett alternativt alternativ för Amazon Cloud Services AWS -kunder att utbilda stora språkmodeller istället för NVIDIA -grafikprocessorer.För närvarande har upphandlingen av GPU: er blivit allt svårare och dyra, och dessa anpassade chips kan ge AWS -kunder alternativa lösningar för att utbilda stora språkmodeller på NVIDIA -chips.
Amazon Cloud Technology CEO Adam Selipsky sa i juni i år: "Världen hoppas ha fler chips för generativ konstgjord intelligens, oavsett om det är GPU: er eller Amazons självutvecklade chips som vi designar
Men andra företag har vidtagit snabbare åtgärder och investerat fler medel för att få affärer från vågen av generativ konstgjord intelligens.När Openai lanserade Chatgpt i november förra året fick Microsoft omfattande uppmärksamhet för sina chatbots och 13 miljarder dollar i OpenAI.Företaget lade snabbt till generativa konstgjorda intelligensmodeller till sina produkter och slogs samman dem till Bing i februari i år.
Samma månad lanserade Google sin egen storskaliga språkmodell, Bard, och investerade därefter 300 miljoner dollar i OpenAI-konkurrentens Anthropic.
Det var inte förrän i april som Amazon tillkännagav lanseringen av sin egen stora språkmodellserie (kallad Titan) och en Bedlock -tjänst för att hjälpa utvecklare att använda generativ AI -förbättringsprogramvara.
Amazon är inte van vid att jaga marknaden.Amazon är van vid att skapa marknaden.Jag tror att de för första gången på länge har befunnit sig i en nackdel och arbetar hårt för att komma ikapp, ”sa Chirag DeKate, vice presidentanalytiker på Gartner.
Meta har nyligen släppt sina egna Llama 2 stora modeller.Denna Open Source Chatgpt -konkurrent kan nu testas på Microsofts Azure Public Cloud.
Chips är "sant differentiering"
Dekate uppgav att Amazons anpassade chips på lång sikt kan ge det en fördel inom området generativ konstgjord intelligens,
Jag tror att den verkliga differentieringen ligger i de tekniska kapaciteterna de utövar, eftersom Microsoft inte har anpassade chips för träning eller inferentia
AWS började tyst producera anpassade chips redan 2013 och använde en specialiserad hårdvara som heter Nitro, som nu är det mest sålda AWS-chipet.Amazon hävdar att varje AWS -server har minst en, med en total användning på över 20 miljoner.
2015 förvärvade Amazon israelisk chipstart Annapurna Labs.Under 2018 lanserade Amazon Arm -baserade serverchipgraviton, som är en konkurrent till x86 CPU: er från jättar som AMD och Intel.
ARM kan stå för en hög ensiffra eller till och med 10% av den totala serverförsäljningen, med en stor del som kommer från Amazon.Därför klarar de sig ganska bra när det gäller CPU, säger Stacy Rasgon, senioranalytiker på Bernstein Research.
Under 2018 lanserade Amazon Chips fokuserade på konstgjord intelligens.För två år sedan tillkännagav Google lanseringen av sin första tensorprocessorenhet (TPU).Microsoft har ännu inte meddelat att det utvecklar Athena AI -chipet, som enligt uppgift utvecklas i samarbete med AMD.
Matt Wood, vice president för Amazon Products, förklarade användningen av utbildnings- och inferentia -chips.
Maskininlärning är uppdelad i dessa två olika steg.Därför utbildar du maskininlärningsmodeller och drar sedan ut dessa utbildade modeller, "sade Wood. Jämfört med någon annan metod för att utbilda maskininlärningsmodeller på AWS har träningen förbättrat sin kostnadseffektivitet med cirka 50%
Efter utgivandet av Inferentia 2019 (för närvarande i sin andra generation) lanserades träningen först 2021.
Inferentia "tillhandahåller mycket låg kostnad, hög genomströmning och inlärning av maskininlärning, vilket innebär att när du matar in en prompt i en generativ konstgjord intelligensmodell, behandlas alla förutsägelser här för att ge ett svar," sade Wood.
Men för närvarande är Nvidias GPU fortfarande kungen när det gäller träningsmodeller.I juli i år lanserade AWS en ny AI -accelerationshårdvara som stöds av NVIDIA H100.
Rasgon sa: "Nvidia -chips har ett enormt program för mjukvaran, och under de senaste 15 åren har mjukvaruekosystemet byggt runt dem varit oöverträffad av andra företag. För närvarande är den största vinnaren inom konstgjord intelligens Nvidia
Utnyttja molnfördelar
AWS: s molndominans är emellertid en viktig differentieringsfaktor för Amazon.
Amazon behöver ingen extra uppmärksamhet.Amazon har redan en mycket stark molninstallationsstiftelse.Allt de behöver göra är att ta reda på hur man kan göra det möjligt för befintliga kunder att utnyttja generativ konstgjord intelligens för att utvidga till värdeskapande aktiviteter, ”sade Dekate.
När du väljer generativ konstgjord intelligens mellan Amazon, Google och Microsoft kan miljoner AWS -kunder lockas till Amazon eftersom de redan är bekanta med Amazon och driver andra applikationer och lagra data där.
Mai Lan Tomsen Bukovec, vice ordförande för AWS Technology, förklarade, "Detta är en fråga om hastighet. Hur snabbt dessa företag kan utveckla dessa generativa konstgjorda intelligensapplikationer beror på hur de börjar med data i AWS och använder datoranvändar och maskininlärningsverktyg vitillhandahålla för att köra den
Enligt Gartner Data är AWS världens största molnberäkningsleverantör, med en marknadsandel på 40% 2022. Även om Amazons rörelseresultat har minskat från år till år för tre kvartal i rad, stod AWS fortfarande för 70% av Amazons 7,7 miljarder dollarrörelseresultat under andra kvartalet.Ur ett historiskt perspektiv är AWS: s rörelseresultat mycket högre än Google Cloud.
Dessutom har AWS också en ökande portfölj av utvecklarverktyg med fokus på generativ konstgjord intelligens.Swami Sivasubramanian, vice ordförande för databas, analys och maskininlärning på AWS, sa: "Låt oss vända tillbaka klockan, redan innan chatgpt. Det är inte som efter det, vi plötsligt rusade ut med en plan eftersom du inte kan designa en nyChip i så snabbt, än mindre etablera en grundtjänst på 2 till 3 månader
Bedlock kan ge AWS -kunder tillgång till stora språkmodeller utvecklade av antiopiska, stabilitet AI, AI21 Labs och Amazon Titan.Sivasubramanian sa: "Vi tror inte att en modell kommer att styra världen. Vi vill att våra kunder ska ha modernaste modeller från flera leverantörer eftersom de kommer att välja rätt verktyg för rätt jobb
En av Amazons senaste konstgjorda intelligensprodukter är AWS Healthscribe, som lanserades i juli och syftar till att hjälpa läkare att utarbeta patientbesökssammanfattningar med generativ konstgjord intelligens.Amazon har också ett maskininlärningscenter som heter Sagemaker, som tillhandahåller tjänster som algoritmer och modeller.
Ett annat viktigt verktyg är Codewhisperer, som Amazon säger har ökat utvecklarens uppgift att slutföra hastigheten med i genomsnitt 57%.Förra året rapporterade Microsoft också att dess kodningsverktyg Github Copilot har förbättrat arbetseffektiviteten.
I juni i år tillkännagav AWS en investering på 100 miljoner dollar för att skapa ett generativt innovationscenter för konstgjord intelligens.Adam Selipsky, VD för AWS, sa: "Vi har många kunder som vill ha generativ konstgjord intelligensteknik, men de kanske inte nödvändigtvis vet vad det betyder för dem i sitt eget affärssammanhang. Därför kommer vi att introducera lösningsarkitekter, ingenjörer, strateger,och datavetare för att arbeta med dem en-mot-en
Även om AWS hittills huvudsakligen har fokuserat på att utveckla verktyg snarare än att bygga konkurrenter för chatgpt, visar en nyligen läckt intern e -post att Amazons VD Andy Jassy direkt övervakar ett nytt centralt team som också bygger skalbara stora språkmodeller.
Under konferenssamtalet för finansiella rapporten för andra kvartalet uppgav Jia XI att en "betydande del" av AWS: s verksamhet nu drivs av konstgjord intelligens och dess stöd för mer än 20 maskininlärningstjänster, med kunder inklusive Philips, 3M, Old Mutual och HSBC.
Den explosiva tillväxten av konstgjord intelligens har medfört en serie säkerhetsproblem, eftersom företag är oroliga för att anställda kommer att integrera egen information i utbildningsdata som används i den gemensamma stora språkmodellen.
Adam Selipsky sa: "Jag kan inte säga hur många Fortune 500 -företag jag har kontaktat har inaktiverat chatgpt. Därför kommer allt du gör och använda via Bedlock kommer att vara i din egen oberoende virtuella privata molnmiljö..
För närvarande påskyndar Amazon bara främjandet av generativ konstgjord intelligens och hävdar att "över 100000" kunder för närvarande använder maskininlärning på AWS.Även om detta bara står för en liten del av AWS: s miljoner kunder, säger analytiker att denna situation kan förändras.
Vi ser inte företag som säger: 'Åh, vänta lite, Microsoft leder redan i generativ konstgjord intelligens.Låt oss gå ut och ändra vår infrastrukturstrategi, flytta allt till Microsoftware.Om du redan är kund hos Amazon, kommer du sannolikt att utforska Amazonas ekosystem mer allmänt. '
Amazon Cloud Technology CEO Adam Selipsky sa i juni i år: "Världen hoppas ha fler chips för generativ konstgjord intelligens, oavsett om det är GPU: er eller Amazons självutvecklade chips som vi designar
Men andra företag har vidtagit snabbare åtgärder och investerat fler medel för att få affärer från vågen av generativ konstgjord intelligens.När Openai lanserade Chatgpt i november förra året fick Microsoft omfattande uppmärksamhet för sina chatbots och 13 miljarder dollar i OpenAI.Företaget lade snabbt till generativa konstgjorda intelligensmodeller till sina produkter och slogs samman dem till Bing i februari i år.
Samma månad lanserade Google sin egen storskaliga språkmodell, Bard, och investerade därefter 300 miljoner dollar i OpenAI-konkurrentens Anthropic.
Det var inte förrän i april som Amazon tillkännagav lanseringen av sin egen stora språkmodellserie (kallad Titan) och en Bedlock -tjänst för att hjälpa utvecklare att använda generativ AI -förbättringsprogramvara.
Amazon är inte van vid att jaga marknaden.Amazon är van vid att skapa marknaden.Jag tror att de för första gången på länge har befunnit sig i en nackdel och arbetar hårt för att komma ikapp, ”sa Chirag DeKate, vice presidentanalytiker på Gartner.
Meta har nyligen släppt sina egna Llama 2 stora modeller.Denna Open Source Chatgpt -konkurrent kan nu testas på Microsofts Azure Public Cloud.
Chips är "sant differentiering"
Dekate uppgav att Amazons anpassade chips på lång sikt kan ge det en fördel inom området generativ konstgjord intelligens,
Jag tror att den verkliga differentieringen ligger i de tekniska kapaciteterna de utövar, eftersom Microsoft inte har anpassade chips för träning eller inferentia
AWS började tyst producera anpassade chips redan 2013 och använde en specialiserad hårdvara som heter Nitro, som nu är det mest sålda AWS-chipet.Amazon hävdar att varje AWS -server har minst en, med en total användning på över 20 miljoner.
2015 förvärvade Amazon israelisk chipstart Annapurna Labs.Under 2018 lanserade Amazon Arm -baserade serverchipgraviton, som är en konkurrent till x86 CPU: er från jättar som AMD och Intel.
ARM kan stå för en hög ensiffra eller till och med 10% av den totala serverförsäljningen, med en stor del som kommer från Amazon.Därför klarar de sig ganska bra när det gäller CPU, säger Stacy Rasgon, senioranalytiker på Bernstein Research.
Under 2018 lanserade Amazon Chips fokuserade på konstgjord intelligens.För två år sedan tillkännagav Google lanseringen av sin första tensorprocessorenhet (TPU).Microsoft har ännu inte meddelat att det utvecklar Athena AI -chipet, som enligt uppgift utvecklas i samarbete med AMD.
Matt Wood, vice president för Amazon Products, förklarade användningen av utbildnings- och inferentia -chips.
Maskininlärning är uppdelad i dessa två olika steg.Därför utbildar du maskininlärningsmodeller och drar sedan ut dessa utbildade modeller, "sade Wood. Jämfört med någon annan metod för att utbilda maskininlärningsmodeller på AWS har träningen förbättrat sin kostnadseffektivitet med cirka 50%
Efter utgivandet av Inferentia 2019 (för närvarande i sin andra generation) lanserades träningen först 2021.
Inferentia "tillhandahåller mycket låg kostnad, hög genomströmning och inlärning av maskininlärning, vilket innebär att när du matar in en prompt i en generativ konstgjord intelligensmodell, behandlas alla förutsägelser här för att ge ett svar," sade Wood.
Men för närvarande är Nvidias GPU fortfarande kungen när det gäller träningsmodeller.I juli i år lanserade AWS en ny AI -accelerationshårdvara som stöds av NVIDIA H100.
Rasgon sa: "Nvidia -chips har ett enormt program för mjukvaran, och under de senaste 15 åren har mjukvaruekosystemet byggt runt dem varit oöverträffad av andra företag. För närvarande är den största vinnaren inom konstgjord intelligens Nvidia
Utnyttja molnfördelar
AWS: s molndominans är emellertid en viktig differentieringsfaktor för Amazon.
Amazon behöver ingen extra uppmärksamhet.Amazon har redan en mycket stark molninstallationsstiftelse.Allt de behöver göra är att ta reda på hur man kan göra det möjligt för befintliga kunder att utnyttja generativ konstgjord intelligens för att utvidga till värdeskapande aktiviteter, ”sade Dekate.
När du väljer generativ konstgjord intelligens mellan Amazon, Google och Microsoft kan miljoner AWS -kunder lockas till Amazon eftersom de redan är bekanta med Amazon och driver andra applikationer och lagra data där.
Mai Lan Tomsen Bukovec, vice ordförande för AWS Technology, förklarade, "Detta är en fråga om hastighet. Hur snabbt dessa företag kan utveckla dessa generativa konstgjorda intelligensapplikationer beror på hur de börjar med data i AWS och använder datoranvändar och maskininlärningsverktyg vitillhandahålla för att köra den
Enligt Gartner Data är AWS världens största molnberäkningsleverantör, med en marknadsandel på 40% 2022. Även om Amazons rörelseresultat har minskat från år till år för tre kvartal i rad, stod AWS fortfarande för 70% av Amazons 7,7 miljarder dollarrörelseresultat under andra kvartalet.Ur ett historiskt perspektiv är AWS: s rörelseresultat mycket högre än Google Cloud.
Dessutom har AWS också en ökande portfölj av utvecklarverktyg med fokus på generativ konstgjord intelligens.Swami Sivasubramanian, vice ordförande för databas, analys och maskininlärning på AWS, sa: "Låt oss vända tillbaka klockan, redan innan chatgpt. Det är inte som efter det, vi plötsligt rusade ut med en plan eftersom du inte kan designa en nyChip i så snabbt, än mindre etablera en grundtjänst på 2 till 3 månader
Bedlock kan ge AWS -kunder tillgång till stora språkmodeller utvecklade av antiopiska, stabilitet AI, AI21 Labs och Amazon Titan.Sivasubramanian sa: "Vi tror inte att en modell kommer att styra världen. Vi vill att våra kunder ska ha modernaste modeller från flera leverantörer eftersom de kommer att välja rätt verktyg för rätt jobb
En av Amazons senaste konstgjorda intelligensprodukter är AWS Healthscribe, som lanserades i juli och syftar till att hjälpa läkare att utarbeta patientbesökssammanfattningar med generativ konstgjord intelligens.Amazon har också ett maskininlärningscenter som heter Sagemaker, som tillhandahåller tjänster som algoritmer och modeller.
Ett annat viktigt verktyg är Codewhisperer, som Amazon säger har ökat utvecklarens uppgift att slutföra hastigheten med i genomsnitt 57%.Förra året rapporterade Microsoft också att dess kodningsverktyg Github Copilot har förbättrat arbetseffektiviteten.
I juni i år tillkännagav AWS en investering på 100 miljoner dollar för att skapa ett generativt innovationscenter för konstgjord intelligens.Adam Selipsky, VD för AWS, sa: "Vi har många kunder som vill ha generativ konstgjord intelligensteknik, men de kanske inte nödvändigtvis vet vad det betyder för dem i sitt eget affärssammanhang. Därför kommer vi att introducera lösningsarkitekter, ingenjörer, strateger,och datavetare för att arbeta med dem en-mot-en
Även om AWS hittills huvudsakligen har fokuserat på att utveckla verktyg snarare än att bygga konkurrenter för chatgpt, visar en nyligen läckt intern e -post att Amazons VD Andy Jassy direkt övervakar ett nytt centralt team som också bygger skalbara stora språkmodeller.
Under konferenssamtalet för finansiella rapporten för andra kvartalet uppgav Jia XI att en "betydande del" av AWS: s verksamhet nu drivs av konstgjord intelligens och dess stöd för mer än 20 maskininlärningstjänster, med kunder inklusive Philips, 3M, Old Mutual och HSBC.
Den explosiva tillväxten av konstgjord intelligens har medfört en serie säkerhetsproblem, eftersom företag är oroliga för att anställda kommer att integrera egen information i utbildningsdata som används i den gemensamma stora språkmodellen.
Adam Selipsky sa: "Jag kan inte säga hur många Fortune 500 -företag jag har kontaktat har inaktiverat chatgpt. Därför kommer allt du gör och använda via Bedlock kommer att vara i din egen oberoende virtuella privata molnmiljö..
För närvarande påskyndar Amazon bara främjandet av generativ konstgjord intelligens och hävdar att "över 100000" kunder för närvarande använder maskininlärning på AWS.Även om detta bara står för en liten del av AWS: s miljoner kunder, säger analytiker att denna situation kan förändras.
Vi ser inte företag som säger: 'Åh, vänta lite, Microsoft leder redan i generativ konstgjord intelligens.Låt oss gå ut och ändra vår infrastrukturstrategi, flytta allt till Microsoftware.Om du redan är kund hos Amazon, kommer du sannolikt att utforska Amazonas ekosystem mer allmänt. '