Cronologia delle interruzioni di Sauce Labs

1. 2 settembre 2026 alle ore 09:39 UTCinvestigating

   Stiamo vedendo elevati tassi di errore per i test del dispositivo reale nel centro dati EU-Central-1. Stiamo indagando.

2. 2 settembre 2026 alle ore 11:30 UTCidentified

   È stata identificata la causa principale dei tassi di errore elevati per i test dei dispositivi reali nel centro dati EU-Central-1. La bonifica è stata applicata e stiamo monitorando attivamente la situazione.

3. 2 settembre 2026 alle ore 11:53 UTCresolved

   Dopo aver preso l'azione correttiva, i tassi di errore di prova del dispositivo reale sono tornati alla normalità nel data center EU-Central-1. Tutti i servizi sono completamente operativi.

Tradotto automaticamente dall'aggiornamento ufficiale dell'incidente.

1. 25 agosto 2026 alle ore 12:33 UTCinvestigating

   Attualmente stiamo vedendo elevati tassi di errore per i test macOS e iOS nel data center US-West-1. Stiamo indagando.

2. 25 agosto 2026 alle ore 13:19 UTCresolved

   Dopo aver preso l'azione correttiva, tutti i test macOS e iOS stanno ora eseguendo come previsto nel centro dati US-West-1. Tutti i servizi sono completamente operativi.

3. 3 settembre 2026 alle ore 20:23 UTCpostmortem

   #### **Dates:** martedì 25 agosto 2026, 11:38 – 13:10 UTC # Che e' successo? # I clienti che eseguono test macOS e iOS nella nostra regione US-West hanno sperimentato il servizio degradato. Circa il 50% della capacità virtuale del Mac nella regione ha smesso di accettare nuovi test, quindi test in coda o non è riuscito a iniziare. La capacità rimanente è venuta sotto pressione aggiuntiva mentre il lavoro si è spostato su di esso, che ha prolungato i tempi di inizio sia per i test desktop che simulatore. # Perche' e' successo # Un certificato di sicurezza interno utilizzato dai nostri host Mac per raggiungere un servizio cloud di supporto raggiunto la data di scadenza. Una volta scaduto, i padroni di casa non potevano più stabilire una connessione affidabile a quel servizio e smettere di fornire nuove macchine di prova. Il certificato era stato rilasciato manualmente e non aveva né rinnovo automatizzato né avviso di scadenza. #### **Come l'abbiamo riparato? Abbiamo rilasciato e distribuito un certificato di sostituzione, che ha ripristinato la connettività e ha restituito la capacità Mac a livelli normali. #### **Quello che stiamo facendo per impedire che accada di nuovo # Stiamo spostando questi certificati sul rinnovo automatico e aggiungendo avvisi in modo che siano sostituiti ben prima della scadenza, insieme a rivedere gli strumenti circostanti per rendere la gestione del certificato più sicuro.

Tradotto automaticamente dall'aggiornamento ufficiale dell'incidente.

1. 7 agosto 2026 alle ore 12:08 UTCinvestigating

   We are currently seeing elevated error rates for virtual desktop tests in the US-West-1 datacenter. We are currently investigating.

2. 7 agosto 2026 alle ore 13:06 UTCresolved

   After taking remedial action, Virtual Desktop tests are starting successfully in the US-West-1 Data center. All services are fully operational. We are closely monitoring the situation

3. 14 agosto 2026 alle ore 16:43 UTCpostmortem

   ### **Dates:** Friday, August 7th 2026, 11:00 UTC - 13:04 UTC. ### **What happened:** Windows and Intel Mac jobs in `us-west1` failed to start due to virtual machine \(VM\) allocation starvation. ### **Why it happened:** A service crash loop left VMs in an allocated but unclaimed state, while a cleanup bug prevented the system from releasing the orphaned capacity to boot new VMs. ### **How we fixed it:** Restored service stability and cleared stale allocations to resume VM provisioning and clear queued jobs. ### **What we are doing to prevent it from happening again:** Fixing allocator cleanup logic, strengthening deployment health checks, and improving capacity accounting for stale allocations.

Tradotto automaticamente dall'aggiornamento ufficiale dell'incidente.

1. 16 luglio 2026 alle ore 20:33 UTCresolved

   Tra il 16 luglio 13:03 UTC e il 16 luglio 17:33 UTC, abbiamo sperimentato una disgregazione di servizio in cui gli archivi dei simboli che utilizzano i protocolli di upload multi-part non sono riusciti a elaborare. L'incidente è stato risolto e tutti i servizi sono operativi.

2. 14 agosto 2026 alle ore 16:48 UTCpostmortem

   ### **Dates:** Thursday July 16th 2026, 13:03 – 17:33 UTC ### **What happened:** Symbol archives uploaded in multiple parts failed to process. All regions were affected. ### **Why it happened:** Our symbol processing service sent an upload-verification field that our cloud storage provider's API does not accept for multi-part uploads, so those uploads were rejected. A fix for this had already been developed, but it had not yet been included in a released build and the service was not configured to use it. As in the first incident, rejected uploads were retried and accumulated on local disk. ### **How we fixed it:** We deployed a build containing the fix and corrected the service configuration on the affected workers. A large backlog of uploads then processed, which briefly re-filled the disks before draining completely. ### **What we are doing to prevent it from happening again:** We are releasing the fix formally through our build pipeline and persisting the corrected configuration in our configuration management, so it can't be lost. The disk-utilization alerting added after the first incident also covers the disk-exhaustion pattern common to both.

Tradotto automaticamente dall'aggiornamento ufficiale dell'incidente.

1. 16 luglio 2026 alle ore 20:30 UTCresolved

   Tra il 14 luglio 23:45 UTC e il 15 luglio 23:05 UTC, abbiamo sperimentato un problema in cui l'archivio dei simboli carica su progetti Backtrace non è riuscito con errori HTTP 400. L'incidente è stato risolto e tutti i servizi sono operativi.

2. 14 agosto 2026 alle ore 16:47 UTCpostmortem

   ### **Dates:** Tuesday July 14th 2026, 23:45 UTC – Wednesday July 15th 2026, 23:05 UTC ### **What happened:** Symbol archive uploads to Error Reporting \(Backtrace\) projects failed with HTTP 400 errors. All regions were affected. ### **Why it happened:** The credentials our symbol processing service used to write to cloud storage were no longer valid, so uploads could not be stored. Failed uploads were retried repeatedly and accumulated on local disk until the service ran out of space, at which point it also began rejecting new uploads. ### **How we fixed it:** We reissued the storage credentials, increased disk capacity on the affected workers, and restarted the service. The queued uploads then processed successfully, and we confirmed recovery with affected customers. ### **What we are doing to prevent it from happening again:** We've added disk-utilization monitoring and alerting to this service so we detect the condition ourselves before it affects uploads, rather than relying on customer reports.

Tradotto automaticamente dall'aggiornamento ufficiale dell'incidente.

1. 14 luglio 2026 alle ore 17:19 UTCinvestigating

   Stiamo riscontrando un problema nel centro dati EU Central 1, dove i test dell'app iOS ARM Simulator non funzionano con errori di infrastruttura. Stiamo indagando.

2. 14 luglio 2026 alle ore 18:05 UTCinvestigating

   I download delle applicazioni stanno prendendo più tempo del previsto quando questi errori di infrastruttura sono visti. Stiamo continuando a indagare.

3. 14 luglio 2026 alle ore 18:56 UTCmonitoring

   Abbiamo implementato una soluzione per questo problema. I test dovrebbero ora essere eseguiti come previsto nel centro dati EU Central 1. Stiamo monitorando.

4. 14 luglio 2026 alle ore 19:11 UTCmonitoring

   Stiamo continuando a monitorare eventuali ulteriori problemi.

5. 14 luglio 2026 alle ore 20:23 UTCresolved

   Dopo aver preso l'azione correttiva e il monitoraggio della situazione, stiamo vedendo test applicativi iOS ARM eseguire come previsto nel Data Center UE. Tutti i servizi sono completamente operativi.

6. 29 luglio 2026 alle ore 17:40 UTCpostmortem

   #### **Dates:** martedì 14 luglio 2026, 09:00 - 18:28 UTC # Che e' successo? # I test iOS ARM in esecuzione nel nostro data center UE non sono riusciti. # Perche' e' successo # Un difetto è avvenuto con il nostro principale fornitore di rete nel nostro centro dati UE. #### **Come l'abbiamo riparato? Non abbiamo superato un fornitore di rete secondaria dal nostro data center UE. #### **Quello che stiamo facendo per impedire che accada di nuovo # Abbiamo migliorato il nostro monitoraggio e l'avviso di prendere problemi con i fornitori di rete di terze parti.

Tradotto automaticamente dall'aggiornamento ufficiale dell'incidente.

1. 1 luglio 2026 alle ore 21:37 UTCresolved

   Il 1 ° luglio tra 17:02 UTC e 21:31 UTC, macOS 14 test non sono stati in grado di iniziare nei data center US-West e EU-Central. Questo problema è stato risolto. Tutti i servizi sono completamente operativi.

2. 11 agosto 2026 alle ore 20:37 UTCpostmortem

   ### **Dates:** Wednesday July 1st 2026, 17:02 UTC - 21:31 UTC ### **What happened:** macOS 14 tests in the US West and EU Central data centers were unable to start. ### **Why it happened:** An internal datasource was unavailable due to a missing configuration entry. ### **How we fixed it:** The missing entry was replaced. ### **What we are doing to prevent it from happening again:** Safeguards have been put in place to prevent in-use datasource removal from configuration.

Tradotto automaticamente dall'aggiornamento ufficiale dell'incidente.

1. 1 luglio 2026 alle ore 12:12 UTCinvestigating

   Stiamo vivendo un problema con l'accesso di Appium Inspector negli Stati Uniti-Ovest-1, EU-Central-1, e US-East-4 data center. Stiamo indagando.

2. 1 luglio 2026 alle ore 12:58 UTCresolved

   Abbiamo identificato la causa principale e abbiamo implementato una correzione per questo problema. Tutti i servizi sono completamente operativi.

3. 20 luglio 2026 alle ore 20:34 UTCpostmortem

   #### **Dates:** mercoledì 1 luglio 2026, 09:37 – 12:46 UTC # Che e' successo? # La funzione Appium Inspector, utilizzata durante le sessioni di test live del dispositivo reale, non è stata disponibile dopo una distribuzione UI programmata. Gli utenti che hanno tentato di utilizzare la funzione durante un test live sono stati presentati con un errore di 500, interrompendo la loro sessione di test attiva. I condotti di prova automatizzati non sono stati influenzati. # Perche' e' successo # Un aggiornamento di routine di una libreria core frontend ha introdotto un'incompatibilità con la logica di rendering dell'Appium Inspector. La versione precedente della libreria tollerava il modello, ma la versione aggiornata non lo ha fatto. Il problema non è stato catturato prima dell'implementazione a causa di insufficiente copertura di test end-to-end per questa funzione specifica. #### **Come l'abbiamo riparato? Abbiamo rirottato l'interfaccia utente all'ultima versione di lavoro nota per ripristinare immediatamente la funzionalità, e poi implementato una correzione mirata per l'incompatibilità. #### **Quello che stiamo facendo per impedire che accada di nuovo # Stiamo aggiungendo la copertura di test end-to-end per la funzione Appium Inspector per garantire che venga convalidata automaticamente prima delle implementazioni future.

Tradotto automaticamente dall'aggiornamento ufficiale dell'incidente.

1. 24 giugno 2026 alle ore 16:39 UTCresolved

   Il 24 giugno tra le 08:28 UTC e le 15:32 UTC, abbiamo sperimentato guasti di sessione di test del dispositivo reale che influenzano Appium e Access API negli Stati Uniti Est, Stati Uniti Ovest e EU data center. Questo problema è stato risolto. Tutti i servizi sono completamente operativi.

2. 22 luglio 2026 alle ore 20:49 UTCpostmortem

   #### **Dates:** mercoledì 24 giugno 2026, 09:42 UTC - 15:45 UTC. # Che e' successo? # Le sessioni di test dei dispositivi reali utilizzando Appium e Access API hanno registrato un aumento dei tassi di errore nei data center US East, US West e EU. Le sessioni erano tempistiche fuori dopo circa 90 secondi o rimanere bloccato nello stato "Connecting", impedendo loro di essere chiuso. # Perche' e' successo # È stato introdotto un difetto del prodotto, causando sessioni di test del dispositivo reale per non avviare e prevenire la chiusura delle sessioni attive. #### **Come l'abbiamo riparato? Rollback a una versione stabile. #### **Quello che stiamo facendo per impedire che accada di nuovo # Migliorare il monitoraggio e l'avviso e migliorare la convalida della distribuzione post.

Tradotto automaticamente dall'aggiornamento ufficiale dell'incidente.

1. 18 giugno 2026 alle ore 05:30 UTCinvestigating

   Circa 3:51 AM UTC abbiamo iniziato a sperimentare la disponibilità del dispositivo iOS inferiore nel centro dati EU-Central. Il nostro team sta attivamente indagando sulla causa principale e lavorando verso una risoluzione.

2. 18 giugno 2026 alle ore 06:12 UTCmonitoring

   Abbiamo sperimentato l'assenza di dispositivo nel nostro centro dati EU-Central-1 e abbiamo identificato la causa principale. Abbiamo preso un'azione correttiva e stiamo monitorando.

3. 18 giugno 2026 alle ore 06:59 UTCresolved

   Dopo l'azione correttiva, stiamo ora vedendo dispositivi reali disponibili per il test nel centro dati EU-Central-1. Tutti i servizi sono completamente operativi.

4. 6 luglio 2026 alle ore 17:17 UTCpostmortem

   #### **Dates:** giovedì 18 giugno 2026, 03:45 UTC - 06:45 UTC. # Che e' successo? # Circa il 7% dei dispositivi iOS nel nostro data center UE non era temporaneamente disponibile per le sessioni di test del cliente dopo una perdita di potenza per il rack che li ospita. # Perche' e' successo # Il circuito di alimentazione del rack interessato ha superato la sua capacità, e un interruttore di protezione triplicato per salvaguardare la linea - potenza di taglio ai dispositivi su quel rack fino a quando il circuito è stato ripristinato. #### **Come l'abbiamo riparato? Il circuito interessato è stato resettato e la potenza ripristinata al rack, riportando i dispositivi al servizio clienti. #### **Quello che stiamo facendo per impedire che accada di nuovo # Stiamo ridistribuendo il carico di potenza attraverso i rack interessati, aggiungendo il monitoraggio della capacità con avvisi di allarme anticipati prima dei limiti del circuito, e introducendo una revisione della capacità prima che i nuovi dispositivi vengano implementati su un rack.

Tradotto automaticamente dall'aggiornamento ufficiale dell'incidente.

1. 1 giugno 2026 alle ore 14:02 UTCinvestigating

   We are experiencing an issue where the US-EAST data center is currently unavailable. We are investigating.

2. 1 giugno 2026 alle ore 14:55 UTCinvestigating

   We are continuing to investigate this issue.

3. 1 giugno 2026 alle ore 15:30 UTCinvestigating

   We have identified the root cause and are working on implementing a fix.

4. 1 giugno 2026 alle ore 16:02 UTCmonitoring

   Access has been restored to the US-EAST data center. We are monitoring.

5. 1 giugno 2026 alle ore 18:24 UTCresolved

   After taking remedial action, access to the US-EAST data center is fully restored. This incident is resolved.

6. 15 giugno 2026 alle ore 23:32 UTCpostmortem

   ### **Dates:** Monday, June 1st 2026, 13:06 UTC -  15:42 UTC. ### **What happened:** Customers served by the US-EAST-4 region were unable to authenticate or start new test sessions because an incomplete TLS certificate chain was deployed to the core directory services.  ### **Why it happened:** A certificate extraction script defect silently truncated the certificate chain after the certificate authority transitioned to a longer hierarchy.  ### **How we fixed it:** Reverted the certificate rotation and re-applied the previous known ,good certificate to restore authentication services. ### **What we are doing to prevent it from happening again:** Implementing pre-deployment certificate chain validation, adding active monitoring, and fixing the script's chain-length limitations.

1. 21 maggio 2026 alle ore 14:53 UTCresolved

   Between May 13th 18:47 UTC and May 15th 9:23 UTC, we experienced test details not appearing in the dashboard of the US-East Data Center. This issue has been resolved. All services are fully operational.

2. 26 maggio 2026 alle ore 15:07 UTCpostmortem

   ### **Dates:** Wednesday, May 13th 2026, 18:47 UTC - Friday, May 15th 2026, 09:23 UTC. ### **What happened:** Customers were unable to access test run summaries for Real Device Cloud \(RDC\) jobs because events stopped publishing to the jobs Kafka topic in US-EAST. ### **Why it happened:** An authentication key used by the message producer unexpectedly lost its permissions during an account cleanup. ### **How we fixed it:** Manually restored the required permissions to re-establish the connection and resume service. ### **What we are doing to prevent it from happening again:** Migrating to a permanent service account, implementing a Dead Letter Queue \(DLQ\) for the jobs Kafka topic, and replaying the missing events to restore customer data.

1. 24 aprile 2026 alle ore 16:33 UTCresolved

   Between April 23rd 22:44 and April 24th 15:25 UTC, there was a technical issue that affected video recordings for tests running on macOS 15 and iOS within our EU and US-West Data Center. We identified the issue and deployed a fix. All systems are now fully operational.

2. 13 maggio 2026 alle ore 15:05 UTCpostmortem

   ### **Dates:** Thursday, April 23rd 2026, 22:43 UTC - Friday, April 24th 2026, 15:29 UTC ### **What happened:** Video assets were missing for virtual iOS simulator tests on ARM and macOS ARM desktop tests in the US-West and EU data centers. ### **Why it happened:** A product defect was introduced resulting in a screen capture failure. ### **How we fixed it:** We performed a rollback to a stable version. ### **What we are doing to prevent it from happening again:** We are improving monitoring & alerting to enhance our post deployment validation.

1. 16 aprile 2026 alle ore 10:10 UTCresolved

   Between 02:00 and 11:15 CEST, live and automated tests on iOS 17.0 simulators were failing to start in the EU and US-West Data Center. We executed a deployment rollback, which restored services. All systems are now fully operational.

2. 8 maggio 2026 alle ore 18:42 UTCpostmortem

   ### **Dates:** Thursday, April 16th 2026, 00:00 UTC – 09:15 UTC ### **What happened:** Live and automated tests on iOS 17.0 simulators failed to start in both the EU and US-West data centers. Customers running tests on iOS 17.0 Intel-based simulators were unable to execute their tests for approximately 9 hours. ### **Why it happened:** A deployment introduced an incompatibility affecting iOS 17.0 on Intel-based infrastructure. The issue was not caught prior to release due to insufficient post-deployment test coverage for that specific simulator configuration. ### **How we fixed it:** We performed a rollback to the previous deployment, which restored full iOS 17.0 simulator functionality. ### **What we are doing to prevent it from happening again:** We are reviving and expanding automated post-deployment tests to cover a broader range of simulator configurations, including legacy Intel-based iOS versions, to catch incompatibilities before they reach production.

1. 7 aprile 2026 alle ore 15:02 UTCinvestigating

   We are currently investigating reports of test failures affecting users running tests using SauceCtl in our US-West-1 and EU-Central-1 Data Center. We are investigating.

2. 7 aprile 2026 alle ore 16:13 UTCresolved

   We have identified the root cause and have deployed a fix for this issue. All services are fully operational.

3. 10 aprile 2026 alle ore 21:56 UTCpostmortem

   ### **Dates:** Monday April 7th 2026, ~11:00 – 15:55 UTC ### **What happened:** Some customers experienced 503 errors when running tests via saucectl. The test-composer service was intermittently unavailable, preventing framework-based test execution. ### **Why it happened:** A stale Docker image was deployed to the test-composer service due to a packaging issue that arose during an internal container registry migration. This caused service pods to crash. ### **How we fixed it:** We identified the stale image and redeployed the correct version, restoring the service. ### **What we are doing to prevent it from happening again:** We are hardening our image deployment pipeline and adding validation checks to ensure container registry migrations do not result in stale or incorrect images being deployed to production.

1. 24 marzo 2026 alle ore 17:36 UTCresolved

   Between 09:32 and 15:13 UTC, we identified a technical issue affecting iOS tests when running with network capture enabled. We've resolved the underlying cause and tests are working as expected. All services are fully operational.

2. 10 aprile 2026 alle ore 23:06 UTCpostmortem

   ### **Dates:** Tuesday, March 24th 2026, 09:32 UTC – 15:13 UTC ### **What happened:** Network calls failed on iOS devices during Real Device Cloud sessions where network capture was enabled. Approximately 12-13% of iOS sessions were affected. Android was not impacted. ### **Why it happened:** A deployment introduced a DNS resolution change that was incompatible with the iOS platform, causing network capture to break. ### **How we fixed it:** Rolled back the deployment to restore service. ### **What we are doing to prevent it from happening again:** Adding synthetic tests to catch network capture regressions before production, and implementing monitoring alerts for faster detection after deployments.

1. 19 marzo 2026 alle ore 09:51 UTCinvestigating

   Around 4:45 AM UTC we started experiencing lower iOS device availability in the US-West data center. Our team is actively investigating the root cause and working toward a resolution.

2. 19 marzo 2026 alle ore 10:54 UTCresolved

   This incident has been resolved and our services are fully operational.

3. 10 aprile 2026 alle ore 22:59 UTCpostmortem

   ### **Dates:** Wednesday, March 19 2026, 04:45 UTC - 10:47 UTC. ### **What happened:** Approximately 15% of iOS devices in our US-West data center were temporarily unavailable for customer test sessions due to failed internet connectivity checks. ### **Why it happened:** An automated wireless network optimization feature adjusted transmit power levels on access points serving the affected devices, degrading wireless connectivity and causing devices to fail their availability checks. ### **How we fixed it:** The affected access points were identified and restarted, restoring normal wireless connectivity. ### **What we are doing to prevent it from happening again:** Evaluation of the automated optimization tools and a monitoring improvement.

1. 18 marzo 2026 alle ore 17:15 UTCresolved

   Between 14:43 and 15:11 UTC on March 13, a small subset of Real Devices (iOS and Android) became unavailable across all our data centers. After taking remedial action, the issue was identified and resolved. All services are fully operational.

2. 10 aprile 2026 alle ore 22:57 UTCpostmortem

   ### **Dates:** Friday, March 13th 2026, 14:43 UTC - 15:11 UTC. ### **What happened:** Real Devices \(iOS and Android\) availability gradually decreased across all data centers. ### **Why it happened:** A product defect was introduced resulting in a small subset of Real Devices \(~10%\) failing to maintain required connectivity. ### **How we fixed it:** Rollback to a stable version. ### **What we are doing to prevent it from happening again:** Improve monitoring & alerting, enhance post deployment validation.

1. 10 marzo 2026 alle ore 18:46 UTCinvestigating

   We are experiencing device unavailability in the US West 1, EU Central 1, and US East 4 data centers and have found that the issue is caused by a 3rd party service disruption. We are investigating.

2. 10 marzo 2026 alle ore 23:34 UTCresolved

   This incident has been resolved.

3. 9 aprile 2026 alle ore 21:07 UTCpostmortem

   ### **Dates:** Tuesday March 10th 2026, 17:52 - 23:34 UTC ### **What happened:** The majority of iOS devices across all regions became unavailable. ### **Why it happened:** Apple's [ppq.apple.com](http://ppq.apple.com) app verification endpoint was down, causing internal device monitoring checks to fail, bringing devices offline. ### **How we fixed it:** We temporarily disabled these device monitoring checks. ### **What we are doing to prevent it from happening again:** Improved external monitoring to catch outages of apple’s [ppq.apple.com](http://ppq.apple.com) endpoint, loosened device monitoring to not take down live iOS devices if [ppq.apple.com](http://ppq.apple.com) is down.

1. 6 marzo 2026 alle ore 23:28 UTCresolved

   Between 21:38 UTC and 23:11 UTC, our virtual iOS and MacOS live and automated device tests were failing to start in the EU Data Center. We executed a deployment rollback, which restored services. All systems are now fully operational.

2. 10 aprile 2026 alle ore 22:53 UTCpostmortem

   ### **Dates:** Friday, March 6th 2026, 21:38 UTC - 23:11 UTC ### **What happened:** During the incident timeline, customers running virtual iOS simulator tests on ARM or macOS ARM desktop tests in the EU Data Center were unable to start new sessions for either live or automated. ### **Why it happened:** There was a sequencing issue on the release of the ARM side disk images in the EU. ### **How we fixed it:** The image reference for the ARM side disk was rolled back to the previous reference to restore service. ### **What we are doing to prevent it from happening again:** The tests that run to validate the image syncing have been completed in each region.