Autonomy dokumentatsioon
Integratsioonid

Vaadeldavus (OTLP)

Ekspordi testikäivituste trace'id Datadogi, Grafanasse, Honeycombi või mis tahes OTLP taustsüsteemi — ja liigu ebaõnnestunud testisammult otse vastava toodangu trace'i juurde.

Autonomy ekspordib iga testikäivituse OpenTelemetry trace'ina vaadeldavuse taustsüsteemi, mida su meeskond juba kasutab. Käivitusest saab autonomy.run span koos pesastatud autonomy.step ja autonomy.action.* lastega — ebaõnnestunud sammud kannavad OTLP veastaatust, nii et need ilmuvad samasse veajälgimisse, töölaudadele ja hoiatustesse kus su toodanguliiklus.

Mida see teeb

  • Ekspordib ühe trace'i käivituse kohta: autonomy.runautonomy.step (üks plaani sammu kohta) → autonomy.action.* (navigate, fill, tap, wait, …) koos tegelike aegadega.
  • Märgib ebaõnnestunud käivitused, sammud ja tegevused OTLP veastaatusega — trace'i-uurijad värvivad need punaseks ja arvestavad veamäärades.
  • Lisab igale span'ile autonomy.run_url: süvalink su taustsüsteemi mis tahes span'ilt otse käivituse tõendite lehele Autonomys.
  • Toimetab teenusepakkuja mandaadid majutatud runner'itele automaatselt — seadista töölauas üks kord, runner'i keskkonda muutma ei pea.
  • Eksport on «fire-and-forget»: aeglane või kättesaamatu endpoint ei viivita ega nurja kunagi testikäivitust.

Mida eksporditakse

Span'id kannavad fikseeritud, lubatud loendiga atribuutide komplekti:

AtribuutSisu
test.statuspassed / failed sammu kohta, lõppstaatus käivituse span'il
test.platformweb, ios, android või api
test.plan_name, test.plan_idKäivitatav testijuhtum
test.step_index, test.step_action, test.step_targetSinu kirjutatud plaani samm
autonomy.diagnosis.categoryEbaõnnestumise liigitus (app_bug, test_flaky, environment, …)
autonomy.recovery_countEnne sammu otsust kulunud kordused — flakiness'i signaal, mille peale hoiatusi seada
autonomy.run_urlSüvalink käivitusele Autonomy töölauas

Midagi muud Autonomyst ei lahku. Mudelite identiteeti, tokenite kasutust, prompte, ekraanipilte, lehe sisu, töötlemata veateateid ega sisemiste tööriistade nimesid ei ekspordita kunagi — ebaõnnestumised taandatakse kategooriakoodideks ning lepingut jõustab eksportija atribuutide lubatud loend.

Seadistamine

Enne alustamist

  • Tööruumi administraatori konto — vaadeldavuse seaded on ainult adminitele.
  • OTLP/HTTP vastuvõtu-endpoint avalikul https-hostinimel.
  • Teenusepakkuja sissekande mandaat (API võti, token või basic-auth päis).
  1. Ava Autonomy töölauas Settings → Observability.
  2. Vali oma teenusepakkuja eelseadistus — see täidab ette endpoint'i kuju ja päiste vormingu.
  3. Sisesta OTLP endpoint. Autonomy lisab /v1/traces automaatselt; https on kohustuslik.
  4. Sisesta Headers komadega eraldatud võti=väärtus paaridena. Need salvestatakse krüpteeritult ja ainult kirjutatavana — pärast salvestamist enam kunagi ei kuvata.
  5. Vajuta Send Test Span. Autonomy postitab serveripoolselt sünteetilise autonomy.test_connection span'i ning raporteerib HTTP staatuse ja latentsuse.
  6. Veendu, et span jõudis su trace'i-uurijasse teenuse autonomy-runner-labs all, seejärel lülita sisse Trace Export ja salvesta.

Teenusepakkujate seadistus

Datadog

  • Endpoint: https://otlp.datadoghq.com — kasuta oma saidi domeeni (otlp.datadoghq.eu, otlp.us5.datadoghq.com, …).
  • Headers: dd-api-key=<sinu API võti> (API võti, mitte rakenduse võti).
  • Kus trace'id ilmuvad: APM → Traces, teenus autonomy-runner-labs. Ebaõnnestunud sammud kuvatakse vea-span'idena; monitoride ehitamiseks faseteeri @autonomy.diagnosis.category või @test.plan_name järgi.

Grafana Cloud (Tempo)

  • Endpoint: https://otlp-gateway-<region>.grafana.net/otlp — kopeeri see oma staki OpenTelemetry → OTLP lehelt.
  • Headers: Authorization=Basic <base64 kujul instanceID:token> — genereeri token metrics:write/traces:write skoobiga.
  • Kus trace'id ilmuvad: Explore Tempo andmeallikaga; TraceQL päring {resource.service.name="autonomy-runner-labs"}.

Honeycomb

  • Endpoint: https://api.honeycomb.io (EL: https://api.eu1.honeycomb.io).
  • Headers: x-honeycomb-team=<sinu sissekande võti>. Honeycomb Classicus lisa x-honeycomb-dataset=<dataset>.
  • Kus trace'id ilmuvad: autonomy-runner-labs dataset (või sissekande võtme keskkond). BubbleUp päringuga test.status = failed on hea esimene samm.

Üldine OTLP

Töötab iga koguja või teenusepakkuja, kes võtab vastu OTLP/HTTP JSON-iga aadressil /v1/traces — OpenTelemetry Collector, SigNoz, Axiom ja enamiku teenusepakkujate omased sissekanded. Suuna endpoint baas-URL-ile (avalik https-hostinimi — IP-literaalid ja sisemised hostinimed lükatakse tagasi) ning lisa autentimispäised, mida sissekanne ootab.

Ise majutatud runner'id

Töölaua seadistus on ülimuslik ega nõua runner'i muudatusi. Organisatsiooni seadistuseta ise majutatud runner'id saavad ekspordi lubada keskkonna kaudu:

VariableRequiredDescription
AUTONOMY_OBSERVABILITY_EXPORTYesMäära väärtuseks `otel`, et lubada keskkonnapõhine eksport.
OTEL_EXPORTER_OTLP_ENDPOINTYesOTLP baas-endpoint; `/v1/traces` lisatakse automaatselt.
OTEL_EXPORTER_OTLP_HEADERSNoKomadega eraldatud `võti=väärtus` paarid, saadetakse iga ekspordiga.
OTEL_SERVICE_NAMENoTeenuse nimi eksporditud span'idel. Vaikimisi `autonomy-runner-labs`.

Mandaatide roteerimine või eemaldamine

Päised on ainult kirjutatavad: roteerimiseks kleebi uus väärtus ja salvesta — see asendab salvestatud saladuse. Teenusepakkuja lahtiühendamiseks kasuta Clear stored headers; endpoint'i seadistus jääb alles, kuid ekspordid lähevad välja ilma autentimispäisteta (mille enamik teenusepakkujaid tagasi lükkab), kuni salvestad uued.

Veaotsing

Send Test Span ebaõnnestub HTTP 401 või 403-ga

Sissekanne lükkas mandaadid tagasi. Kontrolli oma teenusepakkuja päisevõtit (dd-api-key, Authorization, x-honeycomb-team) ja et mandaadil on sissekande/kirjutamise skoop.

Send Test Span ebaõnnestub HTTP 404-ga

Sellel URL-il pole OTLP trace'ide sissekannet. Sisesta ainult baas-endpoint — Autonomy lisab /v1/traces ise; tavaline põhjus on kahekordne rada.

«Endpoint must use https» või «must be a public hostname»

Vastu võetakse ainult avalikke https-hostinimesid — tavaline http, IP-literaalid, localhost ning .internal/.local nimed lükatakse tagasi. Sisemise koguja jaoks pane selle ette https-ingress.

Testspan töötab, aga käivitused ei ekspordi midagi

Veendu, et Trace Export on sisse lülitatud ja salvestatud ning et su runner'id on pärast muudatust tööd võtnud — seadistus toimetatakse kohale, kui runner käivituse endale võtab. Kohaletoimetamise tõrked ei nurja kunagi käivitusi; vale mandaat väljendub vaikusena, mitte käivitusvigadena. Käivita Send Test Span uuesti kontrolliks.

On this page