Innen mobiltelefoner, sikkerhetsovervåking, biler og augmented reality / virtual reality (AR / VR) involverer alle typer innebygde applikasjoner som utvikles eller planlegges nevrale nettverk, og nevrale nettverksapplikasjoner eksploderer. Feltet for innovasjon i nevrale nettverk er ekstraordinært, dets egen arkitektur oppdateres kontinuerlig, og nye nettverk, nye applikasjoner og markeder dukker også opp i uendelig grad. Med utdypingen og kompleksiteten i nevrale nettverksapplikasjoner øker kravene til databehandling fra dag til dag. På mindre enn 4 år har MAC / frame computing-kravene økt omtrent 16 ganger (se figur 1).
Figur 1 Veksten av MAC / frame computing krav
Med utviklingen av nevrale nettverk fortsetter etterspørselen etter å legge inn prosessorer (i stedet for å bruke CPUer og GPUer) i enheter. Imidlertid har prosessorkraften og driftshastigheten til nettverket ikke holdt tritt med utviklingskravene til nevrale nettverksapplikasjoner. Denne konflikten er spesielt åpenbar innen synsapplikasjoner. Inntil nå kan oppfyllelse av behovene til nevrale nettverksapplikasjoner bare stole på ressursene til tradisjonelle datasentre. Imidlertid, ettersom sikkerhet og ventetid blir viktige hensyn, blir det vanligere å implementere nevrale nettverk gjennom innebygde systemer for sanntids databehandling. Selv om de fleste opplæring i nevrale nettverk kan gjøres offline, må applikasjoner som bruker nevrale nettverk legge den inn i systemet.
I alle innebygde applikasjoner står AR / VR eller mixed reality overfor unike utfordringer. De fleste av enhetene i ovennevnte felt er bærbare enheter som smarte hjelmer, øretelefoner eller smarte briller. De er avhengige av batteristrøm og er en av de viktigste hensynene når du velger en nevral nettverksløsning for energiforbruk. Et annet viktig krav for AR / VR-applikasjoner er å redusere ventetiden, så nevrale nettverk må implementere innebygging av enheter. Alle disse enhetene krever en slags bildegjenkjenning, gestgjenkjenning, stereokamerasegmentering, 3D-sensing, hodesporing, øyedeteksjon og øyesporingsfunksjoner. Det er mange forskjellige bildebehandlingsteknologier, men over tid vil noen av disse funksjonene, som forståelse av semantisk miljø, gestgjenkjenning eller bildegjenkjenning, alle realiseres gjennom nevrale nettverk. I tillegg til bildebehandling / visuelle nevrale nettverk, stiller disse enhetene også krav til lyd- / lydnervenettverk for å motta talekommandoer.
I dagens raskt skiftende teknologiske miljø, må AR / VR-utstyrsprodusenter umiddelbart velge plattformer for produkter som skal markedsføres i 2019, 2020 og enda senere. Etter innføringen av det nye nevrale nettverket, på grunn av kontinuerlige endringer i arkitekturen, kan vi ikke sikre effektiviteten til den nåværende effektive arbeidsplattformen i det fremtidige systemet. I tillegg krever disse applikasjonene lav latens og lavt strømforbruk, noe som også er spesielt viktig; men med tanke på den kontinuerlige veksten av nevrale nettverksbehov og den kontinuerlige utviklingen av denne trenden, må vi fremdeles sikre en viss grad av fleksibilitet og fremtidsrettet.
Foreløpig er det to hovedalternativer for implementering av nevrale nettverk: CPU / GPU eller bruk av maskinvareakseleratorer og matchende bildebehandling DSP. Disse to alternativene kan løse noen av utfordringene som designere står overfor; men begge har noen utilfredsstillende kompromisser når det gjelder enkel utvikling, energieffektivitet, ventetid, fremtidig oppgraderingsplass eller ytelse. Maskinvareakselerator og samsvarende bildebehandling DSP er et av valgene for innebygde enheter, men denne kombinasjonen er ineffektiv og vil generere unødvendig strømforbruk. I tillegg til utviklingsvansker, må programvaren også fordeles mellom DSP og gasspedalen. Bare lossing av konvolusjonslaget vil øke belastningen på dataoverføring og påvirke effektiviteten. I tillegg er maskinvaren løst på tidspunktet for tapeout, så disse akseleratorene vil ikke ha plass til fremtidige oppgraderinger.
Nevrale nettverk DSP-løsninger som oppfyller behovene til innebygde applikasjoner, må oppfylle følgende krav: enkle å utvikle, i stand til å håndtere store mengder data, har plass til fremtidige oppgraderinger, bruker energieffektivt og minimerer forsinkelse.
Kadensløsning: Tensilica Vision C5 digital signalprosessor (DSP)
Som en optimalisert løsning for visjon og fusjonssensorapplikasjoner, er Cadence Tensilica Vision C5 DSP bransjens første DSP dedikert til prosessering av nevrale nettverk og egnet for flerprosessorarkitektur. Denne løsningen oppnår enestående hastighet og lavt strømforbruk, og oppfyller alle kravene til avansert nevralt nettverksteknologi.
Løsningen er basert på nesten 20 års erfaring med Xtensa multi-prosessor, med funksjoner som deling av minnestruktur, tillatte avbrudd, synkroniserte køer og synkronisert feilsøking med flere prosessorer. Vision C5 DSP kan realisere beregningsakselerasjonen av alle nevrale nettverkslag (konvolusjonslag, fullt koblet lag, poolinglag og normaliseringslag), ikke bare funksjonen for konvolusjonslag. Derfor frigjøres evnen til den viktigste visjonsbehandlings-DSP til å kjøre bildeforbedringsapplikasjoner uavhengig. mens Vision C5 DSP kjører inferensoppgaver. Ved å fjerne den overflødige dataoverføringen til maskinvareakseleratoren, er strømforbruket til Vision C5 DSP mye lavere enn for den eksisterende nevrale nettverksakseleratoren.
Vision C5 DSP har en datakraft på 1 TMAC / sek, som kan oppfylle de stadig økende databehovet i nevrale nettverk; den har også nøyaktige beregninger, har en multi-core designarkitektur og støtter multi-TMAC innebygde løsninger. Vision C5 DSP er rettet mot applikasjoner som ofte kjører flere nevrale nettverk. På grunn av sine programmerbare egenskaper har løsningen rom for fremtidige oppgraderinger og kan støtte nye lag etter hvert som designet endres.
Synsbehandlingssystemet må være utformet omfattende, gjeldende for alle plattformer, og samtidig utvikle maskinvare og programvare. For å utvikle denne teknologien, må designere bruke verktøy og IP som støtter effektive algoritmer, og maskinvareplattformen som brukes må også oppfylle kravene til målkostnad og strømforbruk for hver applikasjon. Fra et systemperspektiv kan Cadence støtte designere av innebygde visjonsenheter for å utvikle transformative produkter så raskt og effektivt som mulig.
Vår andre produkt:
