
To nie jest problem wykrywania. Model zobaczył coś szarego, ruchomego i unoszącego się, czyli dokładnie to, czego go nauczono. To problem danych: model nigdy się nie nauczył, czego nie zgłaszać.
Prawdziwym testem są sobowtóry dymu
Poproś model wykrywania pożaru o znalezienie płonącej palety w dzień, a większość zda. O tym, czy operatorzy zostawią tę funkcję włączoną, decydują inne przypadki:
- para z wywiewów, spaliny i chłodnie kominowe
- mgła przesuwająca się w świetle naświetlaczy
- kurz za ciężarówką albo ładowarką
- odblaski reflektorów i refleksy na mokrym asfalcie
- nisko wiszące chmury za ogrodzeniem
Takie zdarzenia dzieją się co noc, na każdym obiekcie. Prawdziwy pożar zdarza się rzadko. Model, który w 99% trafia przy pożarach, a dwa razy w nocy myli się na parze, to model, który operatorzy wyłączają.
Dlaczego typowe zbiory danych tego nie wyłapują
Publiczne zbiory o pożarach powstają z nagrań, na których coś się pali. Przykłady negatywne, jeśli w ogóle są, to głównie klatki „bez ognia”: pusty plac, czyste niebo. Bardzo niewiele zawiera opisane powyżej trudne przykłady negatywne, oznaczone według rodzaju, w nocy, w podczerwieni.
Model może więc dobrze wypaść w swoim teście porównawczym i mimo to zawieść na rampie. Test nigdy nie zadał pytania, które obiekt zadaje co noc.
Co mierzymy zamiast tego
W Xentim celowo budujemy trudne przykłady negatywne: klipy z parą i mgłą, każdy oznaczony według rodzaju, w dzień, w kolorowej nocy i w nocy w podczerwieni, w tych samych scenach, w których inscenizujemy dym. Następne będą kurz i odblaski. Nie chodzi o to, żeby model dobrze wyglądał. Chodzi o to, żeby przed wdrożeniem wiedzieć, jak często będzie podnosił fałszywy alarm.
Liczba, która nas interesuje, jest prosta: fałszywe alarmy na kamerę na dobę. To liczba, którą czuje operator, i to ona decyduje, czy analityka zostanie włączona.
Który sobowtór dymu wywołuje najwięcej fałszywych alarmów na Twoich obiektach?
Pytania i odpowiedzi
Dlaczego para wywołuje alarmy dymu na kamerach?
Para, spaliny i mgła wyglądają dla modelu jak dym: są szare, ruchome, unoszą się. Jeśli w danych treningowych nie było tych sobowtórów oznaczonych jako „nie dym”, model nie ma powodu ich odróżniać.
Czym jest trudny przykład negatywny?
To klip, który wygląda jak zdarzenie, ale nim nie jest, na przykład para z wywiewu obok rampy. Oznaczony według rodzaju uczy model, co ignorować, i pozwala sprawdzić, jak często model daje się oszukać.
Jak mierzyć fałszywe alarmy?
Jako liczbę fałszywych alarmów na kamerę na dobę, na prawdziwych nagraniach, przy stałym progu alarmu. To liczba, której doświadcza operator, w przeciwieństwie do wyników trafności w teście porównawczym.
Jakie sobowtóry dymu obejmują wasze klipy?
Dziś parę i mgłę, w dzień, w kolorowej nocy i w nocy w podczerwieni. Następne będą kurz i odblaski reflektorów.
Sprawdź to na własnym modelu
Pilotaż celuje w błędy, które Twój model popełnia dziś, i mierzy wynik na Twoim własnym zbiorze testowym.
Porozmawiajmy