Tekoälyagentit laajaan ja vaativaan käyttöön – miksi Microsoft Foundry Copilot agenttien rinnalla

Mitä tehdä, kun tekoälyltä vaaditaan enemmän: syvempää kustomointia, parempaa kustannustehokkuutta, tiukempaa tietoturvaa tai saumattomia integraatioita liiketoimintakriittisiin järjestelmiin?

Moni organisaatio hyödyntää jo Copilot Studion tarjoamia mahdollisuuksia tekoälyagenttien rakentamiseen. Ne ovat erinomainen ratkaisu useassa tilanteessa – mutta kun rajat tulevat vastaan, katse kääntyy Microsoft Foundry:yn (kutsuttu aiemmin myös Azure AI Foundryksi ja Azure Open AI:ksi). Se avaa sovelluskehittäjille pääsyn tekoälyn konepellin alle ja mahdollistaa kaikkein vaativimpienkin tekoälyagenttien rakentamisen.

Hyvin suunniteltu on puoliksi tehty – myös tekoälyn hyödyntämisessä. Ennen työkalujen valitsemista on tärkeää tunnistaa ongelmat ja prosessit, joissa tekoälystä haetaan apua ja hyötyä. Työkalujen valinta helpottaa, kun toimintaympäristö ja käyttötapaus on selkeästi määritelty – usein ratkaisu on usean eri teknologian yhdistelmä. On hyvä aloittaa ensin pienemmistä toteutuksista, ja edetä kohti laajempia ratkaisuja kertyneen kokemuksen voimalla. Mutta sitten takaisin teknologiaan.

Microsoft Copilot Studio on Microsoft Power Platform:in kaltainen low code -työkalu, joka tarjoaa kansalaiskoodaajille ja sovelluskehittäjille työkaluja räätälöityjen agenttien luomiseen graafisen käyttöliittymän kautta. Perinteisen ohjelmoinnin sijasta tekoälyagentit kootaan valmiista komponenteista ja toiminnoista. Ratkaisut voivat hyödyntää myös perinteisesti koodattuja komponentteja tietyillä reunaehdoilla, joten Copilot Studio taipuu moneen käyttötarkoitukseen,

Microsoft Foundry puolestaan on rakennettu ensisijaisesti teknisille sovelluskehittäjille, ja se tarjoaakin pääsyn tekoälyn toiminnan yksityiskohtaiseen kustomointiin. Kehittäjä voi hallita jokaista vaihetta kooditasolla – tekoälymalleja, työkaluja, datalähteitä ja integraatioita – ja rakentaa agentteja, jotka on räätälöity tarkasti liiketoiminnan tarpeisiin. Foundry on yleensä oiva ratkaisu erikoisempiin ja moniosaisiin tarpeisiin, jotka vaativat useamman järjestelmän välistä kommunikaatiota, mutta sillä voidaan toteuttaa myös yksinkertaisempia tekoälyavustajia.

Mitä hyötyjä Microsoft Foundry -pohjaiset agentit siis tuovat, ja milloin niitä tulisi käyttää?

1. Kustannussäästöjä pitkällä tähtäimellä

Yksi merkittävimmistä Microsoft Foundry:n hyödyistä on potentiaaliset kustannussäästöt tietynlaisissa agenttien käyttötapauksissa. Verrataanpa hieman ratkaisujen hinnoittelumalleja.

Copilot Studion hinnoittelumalli perustuu krediitteihin, joita kuluu, kun agenttia käytetään. Jokainen tekoälyllä suoritettava toiminto sellaisen käyttäjän toimesta, jolla ei ole M365 Copilot lisenssiä, kuluttaa määritellyn määrän krediittejä: mitä edistyneempi agentti, sitä korkeampi kustannus. Moni työkalu, toiminto ja tietolähde, joka annetaan agentin käyttöön lisää yksittäisen viestin credit-kulutusta. Jos toiminto suoritetaan esimerkiksi 1 000 kertaa päivässä, kuukausikustannukset voivat nousta jo merkittäviksi. Autonomiset agentit kuluttavat aina krediittejä, vaikka käyttäjillä olisikin M365 Copilot-lisenssit.

Microsoft Foundry:ssä kustannukset muodostuvat tekoälyllä prosessoidun datan määrästä. Tekoälyn suorittamia työkaluja ja -kulkuja, datalähteitä tai muita toimintoja ei laskuteta erikseen, vaan maksat ainoastaan varsinaisesta prosessoidusta datasta käyttäjän lisenssistä riippumatta. Tämän ansiosta esimerkiksi julkisten verkkosivujen agenttien käyttökustannukset pysyvät hyvin maltillisina.

Foundry:ssä datan prosessoinnin hinta lasketaan niin sanotuilla tokeneilla. Prosessoitava data ”tokenisoidaan” ennen käsittelyä, ja laskutus perustuu käytettyjen tokenien määrään. Tokenit hinnoitellaan käytön mukaan euroina per miljoona tokenia. Esimerkiksi tämän artikkelin mittaluokkaa olevan tekstin prosessointi tekoälyllä maksaisi tyypillisesti vain murto-osan sentistä tyypillistä tekoälymallia käytettäessä.

Foundry:n kustannussäästöt realisoituvat yleensä pitkällä aikavälillä. Copilot Studioon verrattuna, Microsoft Foundry:n hyödyntäminen edellyttää kehittäjältä syvempää teknistä osaamista, ja toiminnot rakennetaan alusta alkaen ennen kuin tekoäly pystyy hyödyntämään niitä tehokkaasti. Tämän alkuinvestoinnin jälkeen palvelu maksaa tyypillisesti itsensä takaisin ajan myötä, sillä Foundry-agenttien varsinainen käyttö on edullista eikä vaadi merkittävää ylläpitoa alkuvaiheen pystytystöiden jälkeen. Luonnollisesti ROI:n laskemisessa isossa asemassa on painavasti vaakakupissa se, millaista ongelmaa agentilla ratkaistaan.
 

2. Tietoturva

Microsoft Foundry:yn pohjautuvat agentit soveltuvat erinomaisesti ympäristöihin, joissa tietoturvavaatimukset ovat korkeat. Agenttien käsiteltävissä oleva data voidaan rajata erittäin tarkasti ennalta määriteltyihin tietokokonaisuuksiin ja toimintoihin, jolloin ne eivät vahingossakaan pääse käsittelemään muuta kuin niille nimenomaisesti sallittua tietoa.

Tekoäly ja sen toiminnot voidaan asentaa yrityksen yksityiseen Azure-sisäverkkoon, jolloin käyttäjien ja tekoälyn verkkoliikenne voidaan ohjata hallitusti esimerkiksi yrityksen olemassa olevien tietoturvatyökalujen kautta. Tällöin liikkuva data pysyy aina hallitussa ja yksityisessä ympäristössä, ilman että se altistuisi internetille. Tämä mahdollistaa tekoälyn hallitun käytön myös liiketoimintakriittisissä ja säädellyissä ympäristöissä, hyödyntäen yrityksen olemassa olevaa tietoturva-arkkitehtuuria.

Copilot Studion agentit ovat oletuksena tietoturvallisia – ne toimivat pääsääntöisesti käyttäjien oikeuksilla, jolloin oikeushallinnan ollessa kunnossa yleisimmät tietoturvariskit voidaan välttää. Myös käyttäjän ja agentin välinen liikenne on salattua kummassakin toteutuksessa. Foundry-toteutuksiin voidaan kuitenkin lisätä tässä kuvattu lisäkerros tietoturvaa, jos se koetaan tarpeelliseksi. Ota meihin yhteyttä, jos sinulla on kysymyksiä tekoälyn tietoturvasta niin voimme käydä tilanteesi yhdessä läpi. Voit tutustua aiheeseen lisää muun muassa Tekoälyn käyttöönotto ja hyödyntäminen datasensitiivisillä toimialoilla -blogissa.

Nämä ominaisuudet tuovat turvaa ja mielenrauhaa erityisesti tilanteissa, joissa agenteilla käsitellään arkaluonteista tai luottamuksellista dataa. Agenteille voidaan lisäksi konfiguroida erilaisia turvallisuusfilttereitä ja sääntöjä, jotka estävät tietynlaisen sisällön käsittelyn tai tuottamisen. Näin varmistetaan, että tekoäly toimii aina sille asetettujen rajojen ja organisaation tietoturvavaatimusten mukaisesti. Yrityksellä olisi myös hyvä olla erilliset määritellyt säännöt tekoälyn ja agenttien hyödyntämiseen, mm. tekoälypolitiikan tai hallintamallin muodossa, jolloin tekoälyn käytöstä olisi selvät sekä arvioidut pelisäännöt.

3. Integrointi yrityksen toimintoihin ja analytiikkaan

Microsoft Foundryn tekoälytoiminnot voidaan integroida täsmällisesti osaksi yrityksen olemassa olevia ratkaisuja. Ne voivat hyödyntää automaatioissa ja analytiikassa organisaation jo olemassa olevaa dataa ja jalostaa siitä päätelmiä, analyyseja tai koosteita, jotka ovat saatavilla tutuissa järjestelmissä ja työvälineissä.

Tekoälyagentit voivat esimerkiksi analysoida automaattisesti päivän aikana saapuneet asiakaspalautteet, tunnistaa niistä toistuvia teemoja ja poikkeamia sekä muodostaa koosteanalyysin ehdotetuilla jatkotoimenpiteillä. Tämä analyysi voidaan toimittaa suoraan yrityksen johdolle tai vastuuhenkilöille ilman manuaalisia työvaiheita.

Tällainen taustalla toimiva automaatio edustaa tekoälyn tehokkainta hyödyntämistä: tieto syntyy ja jalostuu automaattisesti oikeaan aikaan, ilman että sitä tarvitsee erikseen pyytää avustajalta tai käynnistää yksittäisen agenttikyselyn kautta.

Copilot Studiota voidaan myös integroida liiketoimintaprosessien ytimeen, mutta Foundry tarjoaa laajemmat mahdollisuudet kustomoinnin ja integroinnin osalta. Olemassa olevista sovelluksista voidaan usein tehdä ”viisaita” lisäämällä niihin Foundryn tarjoamia tekoälykyvykkyyksiä osaksi niiden omia toimintoja.

Esimerkkinä olkoon painike, joka suorittaa jonkin toiminnon tekoälyllä hyödyntäen saatavilla olevaa dataa. Tämä toiminto voi olla mitä tahansa yksinkertaisen analyysin tekemisestä monimutkaisiin automaatioihin. Copilot Studion agentteihin voi myös liittää Foundry-puolelta tiettyjä ominaisuuksia ja toimintoja: Agentti voi mm. vastata tietyntyyppisiin kysymyksiin hyödyntäen Foundry:n puolella olevaa asiaan erikoistunutta tekoälymallia. Tällöin on kumminkin huomioitava, että Microsoft laskuttaa tässä tapauksessa sekä Copilot Studion että Foundry:n laskutusmallien mukaan.

4. Suuremmat tekoälykokonaisuudet

Koska Microsoft Foundry:n agentit ovat täysin kustomoitavissa, ne voidaan yhdistää toimimaan yhdessä mm. muiden Microsoftin tekoäly- ja pilvipalveluiden kanssa. Tämä mahdollistaa laajojen, toisiinsa kytkeytyvien tekoälykokonaisuuksien rakentamisen. Tekoäly voisi esimerkiksi:

• Litteroida ja analysoida kaikki päivän asiakaspalvelupuhelut
• Analysoida ja luokitella suuria määriä kuvia tai dokumentteja
• Yhdistää useita datalähteitä ja tuottaa niistä automaattisia tilannekuvia johdolle
• Käynnistää jatkotoimenpiteitä automaatioiden kautta analyysin perusteella

Kokonaisuudet räätälöidään aina yrityksen tarpeisiin, jotta niillä saavutettaisiin maksimaalinen hyöty.
 

Yhteenveto

Microsoft Foundry ei ole korvaaja Copilot Studiolle, vaan rinnalla oleva ratkaisu tilanteisiin, joissa tekoälyltä vaaditaan enemmän: valintoja tehdessä kannattaa miettiä esimerkiksi skaalautuvuutta, kustannustehokkuutta, tietoturvaa ja syvää integraatiota liiketoiminnan ytimeen.

Oikein toteutettuna Foundry:yn perustuvat agentit mahdollistavat tekoälyn hyödyntämisen aidosti tuotantokäytössä – taustalla, automaattisesti ja hallitusti. Ennen työkalujen valintaa on tärkeää tunnistaa ongelmat ja prosessit, joissa tekoälystä haetaan apua ja hyötyä.

Haluatko keskustella, voisiko Microsoft Foundry sopia teidän organisaationne tarpeisiin?
Autamme mielellämme käyttötapausten arvioinnissa, arkkitehtuurin suunnittelussa ja toteutuksessa.

Kirjoittaja: