Home > Allgemein, Panel News > Quo Vadis Online Panels (II)

Quo Vadis Online Panels (II)

So, komme endlich dazu, mich an die versprochene Weiterführung des Blogs vom 24.11. zu machen…

Im ersten Teil hatte ich mich mit den Gründen für sinkende Teilnahmebereitschaft in Online-Panels und eine stetig steigende Panel-Mortalität auseinandergesetzt. Untern anderem wurde hierbei der Punkt Surveytainment bzw. die Art und Weise der in Online Panels durchgeführten Umfragen angerissen. Ich möchte nun noch etwas ausführlicher auf diesen Punkt eingehen, da die Qualität der in Online Panels durchgeführten Umfragen mit Sicherheit einen sehr großen Einfluß auf die Panel Mortalität hat – immerhin ist es Hauptziel und -zweck eines Panels, Online-Umfragen unter den Panelisten durchzuführen.

Im Anschluß möchte ich dann gerne noch einige Lösungsansätze für die angesprochen Problematik rückläufiger Teilnahmeraten vorstellen und eine Vorstellung davon geben, wie ich mir Online Panels in Zukunft vorstelle. Mal sehen, ob ich das alles in diese Folge II gepackt bekomme. Andernfalls muß halt eine Folge III herhalten…

Surveytainment… also: wie kann ich Umfragen für den Probanden/Teilnehmer möglichst spannend und entertaining gestalten um die Teilnahmebereitschaft an Umfragen langfristig zu erhalten? Im Grunde ganz einfach:

Zuerst einmal sollte ich als Forscher mit der gleichen Sorgfalt und Wertschätzung meine Fragen stellen, die ich vom Befragten auch bei der Beantwortung meiner Fragen erwarte. Ist doch selbstverständlich, mag da der geneigte Leser aufschreien. Klar…

sorgfältige Übersetzungen:
surveytainment3

sinnvolle Ausfüllanweisungen (weil Tastaturen manchmal so schmieren…):

surveytainment1

überlegte Fragestellungen (was macht da jetzt jemand mit mittlerer Reife?):
surveytainment2

Es wäre ein einfaches, weitere hunderte Beispiele dieser Art aufzuführen, würde aber den Rahmen sprengen. Was ich damit klar machen will ist, daß noch sehr sehr häufig haarsträubende handwerkliche Fehler in der Fragebogengestlatung und -umsetzung gemacht werden und dies nicht immer vom Panel-Betreiber selbst, sondern auch häufig vom beauftragenden Institut.

Ich habe aber erst neulich zwei interessante Blogeinträge von Olympiamilano zum Thema Matrixfragen in Online-Umfragen gelesen:

- Surveytainment at its best #2
- Matrixfragen – Online eigentlich Unsinn!

Im Grunde klingt mir das sehr einleuchtend und jeder der einmal eine mit elend langen Matrixfragen gespickte Online-Umfrage mitgemacht hat, wird bestätigen, daß das Unsinn ist und dieser Fragetyp für ein Selbtausfüllerinterview gänzlich ungeeignet ist. Trotzdem scheint die Skalenabfrage über diverse Items des Marktforschers liebstes Kind zu sein… Mir drängt sich da häufig das Gefühl auf, der Befragte wird gar nicht mehr als Konsument/Kunde/Mensch gesehen, sondern als Datenproduzent, der möglichst ausgiebig “gemolken” werden soll. Ob ich den Menschen dabei noch zu authentischen, spontanten, ehrlichen Antworten bekomme ist eher zweitrangig, wichtig scheint zu sein, möglichst viel Datenmaterial anzuhäufen…

Eine Frage, die immer hilfreich ist um festzustellen, wie Befragungstauglich oder eben nicht, ein Fragebogen ist:

“Würde ich diesen Fragebogen selbst mit entsprechender Sorgfalt und Konzentration bis zum Schluß beantworten?”

Wenn Ihre Antwort darauf “NEIN” ist: Ändern Sie den Fragebogen ab. Kürzen Sie Fragen heraus oder variieren Sie unterschiedliche Fragetypen, modellieren Sie um. Vielleicht muß sogar das gesamte Studiendesign geändert werden? Die Maxime “Klasse statt Masse” sollte hier auf alle Fälle gelten. Lieber habe ich weniger Datenmaterial, dieses aber durch ehrliche und sinnvolle Beantwortung der Fragen erzielt, als einen Haufen Material von Durchklickern und genervten Probanden.

Und damit haben wir auch schon einen ersten – zugegebenermaßen recht banalen – Lösungsvorschlag für verbesserte Teilnahmebereitschaft und Verweildauer in Online-Panels geliefert: Bessere Umfragen – angepasst an die Gegebenheiten des Internets, an die Besonderheiten bei Selbstausfüllerinterviews und an die Strapazierfähigkeit der Probanden.

Natürlich sollen aber auch ein paar “more sophisticated” Ideen vorgestellt werden, wie man schwindender Teilnahmebereitschaft in Online-Panels entgegentreten kann.

Zum ersten – bereits in Einsatz und von uns erfolgreich angewendet: Unser Panelist Motivation Score – Ein Tool welches anhand der Umfragenhistorie die individuelle Motivation der Probanden „misst“ und somit ein verbessertes Einladen zu Studien ermöglicht.

Und wie funktioniert’s?
Wir unterstellem jeden Panelisten eine Grundmotivation an Umfragen teilzunehmen, ansonsten hätte er/sie sich aller Wahrscheinlichkeit nach nicht im Panel angemeldet. Diese Motivation ändert sich nun bei jeder Einladung zu einer Umfrage, je nachdem wie diese ausgeht:

1. Darf der Panelist vollständig beantworten, steigt der Motivation Score
2. Wird er ausgescreent, bricht er ab oder läuft er in eine volle Quote, sinkt die Motivation, da das Ziel, an Umfragen teilzunehmen, ja nicht erreicht wurde.

Weil das zu einfach wäre, wird der Algorithmus noch durch ein paar weitere Variablen wie z.B. Einladungshäufigkeit, Verweildauer im Panel, Bonuspunktestand, etc. angereichert und schon haben wir einen individuellen Motivationsscore für jeden Panelisten. Dieser Score wird nun wie folgt bei der Ziehung von Stichproben eingesetzt:

Panelist Motivation Score

Bei einem niedrigen Motivationsscore laden wir bevorzugt zu Umfragen mit hoher Beendigungswahrscheinlichkeit ein. Bei Umfragen mit niedriger Beendigungswahrscheinlichkeit würden wir entsprechend bevorzugt Teilnehmer mit einer hohen Motivation einladen. Hier sei ergänzend darauf hingewiesen, daß wir leider nicht immer auf Studien mit hoher Beendigungswahrscheinlichkeit (also hohe Inzidenz) zurückgreifen können. Daher „kreiern“ wir s.g. Motivationsstudien, bei welchen jeder teilnehmen darf.

Was bringt’s? Viel! In einer Testphase von 3 Monaten konnten wir bei der Gruppe mit Motivationsscore eine um 6% höhere Teilnahmebereitschaft feststellen, als in der Testgruppe ohne Motivationsscore. Auch seit der festen Einführung des PMS in unserem Panel haben sich die Teilnahmeraten stabilisiert und z.T. sogar erhöht, wobei das Messen hier etwas schwieriger ist, da im tgl. Panel-Management natürlich noch weitere Effekte (unterschiedliche Incentives, Neurekrutierungen, inaktive, …) eine Rolle spielen.

Für uns lässt sich festhalten: ein wertschätzender und respektvoller Umgang mit unseren Panelteilnehmern gepaart mit dem Einsatz des Panelist Motivation Score hilft eindeutig, die Teilnahmebereitschaft der Probanden zu verbessern.

Trotzdem – ein grundlegendes Problem von Online-Panels ist damit noch nicht behoben: Wir entnerven und enttäuschen Probanden immer noch zu häufig durch umfangreiche Zielgruppenscreenings und zu viele Einladungen auf Befragungen, an welchen der Proband meist nicht teilnehmen darf (siehe Teil 1 dieses Blogs), weil Quoten bereits voll sind oder der Proband nicht in die gesuchte Zielgruppe passt.

Hier denke ich, das Panel-Betreiber ansetzen müssen, wenn sie die Teilnahmebereitschaft und damit ihre eigentliche Geschäftsgrundlage langrfristig erhalten wollen. Bei ODC Services beschäftigen wir uns derzeit sehr intensiv mit diesem Thema und ich möchte darauf im dritten und abschließenden Teil dieses Blogs (hoffentlich recht bald in den nächsten Tagen!) eingehen.

  1. 3. Dezember 2009, 17:25 | #1

    Ein wichtiger und interessanter Beitrag, vielen Dank! Im Netz sehe ich es so häufig, dass Marktforscher und Marketingleute unisono dafür plädieren, doch bessere Online-Fragebögen zu machen. Aber eine große Zahl an Befragungen ist anscheinend weiterhin zu lang, zu langweilig, nicht sinnvoll gestaltet – und beeinträchtigt damit auch die Ergebnis-Qualität der “Guten”.

    Woran liegt das? Weil es alles Fachfremde sind, welche diese schlechten Befragungen starten? An uns Forschern, weil wir zu wenig bestimmt auftreten? An den Kunden, weil diese bei Widerworten den Anbieter wechseln? Eine Mischung aus allem?

    Gibt es darüber Erkenntnisse? Für mich als Käufer von Panelleistungen ist es in jedem Fall auch ein wichtiges Qualitätskriterium, wie ernst die Panelisten ihre Fragebögen noch nehmen können. Ich bin auch bereit, für mehr Qualität hier mehr zu bezahlen. Aber gibt es dazu verlässliche und transparente Kriterien?

    So viele Fragen …

  2. 4. Dezember 2009, 15:59 | #2

    @Bettina Wagner
    und so wenig zufriedenstellende Antworten…

    Ich glaube aber nicht, das alles Fachfremde sind, sondern das leider Gottes a.) häufig Zeit und Interesse fehlen und b.) Institute sich häufig nicht mehr trauen, Ihren Kunden die von Dir genannten Widerworte zu entgegnen, weil die Angst zu groß ist Aufträge zu verlieren.

    War gestern auf Kundenbesuch (Institut) und da erzählt mir die Ansprechpartnerin: “Ach wissen Sie, unsere Projektleiter leiten meißt auch nur das weiter, was sie vom Kunden bekommen (bieten Sie das doch auch mal Online an) – da fehlen einfach Zeit und Interesse, sich mit der Methode auseinanderzusetzen…”

    Weiterhin haben wir als Panelanbieter natürlich über die Jahre auch vieles falsch gemacht. Die “Wir schaffen die schwierigsten Zielgruppen und das zu günstigsten Preisen”-Mentalität hat sicherlich nicht zu Qualitätssteigerung in Panels beigetragen…

  3. 4. Dezember 2009, 17:01 | #3

    Ich finde es klasse, dass Du so offen damit umgehst! Und dass Ihr als Anbieter heute ‘Flagge zeigt’ und über diese Themen in Eurem Blog berichtet. In diesem Sinne – weiterhin viel Erfolg!

  4. 17. Dezember 2009, 19:35 | #4

    Die böse Matrixfrage. Wir arbeiten – offen gesagt – oft bevorzugt auf Matrixfragen hin, weil die Alternative 12 einzelne Fagen mit womöglich unterschiedlichen Skalen wäre. Die Matrixfrage ist sehr “datensparsam” und leider die Lösung für viele Fragestellungen.

    Aber vielleicht ist es ja auch die Präsentation dieser, die den Befragten quält. Zu diesem Punkt ist mir in der Beispielumfrage positiv die Bilderbewertung aufgefallen: Man hat einen Eindruck, wieviele Bilder noch kommen, wird aber gleichzeitig auf ein Bild fokussiert. Zudem muss man nicht die Maus mit jeder Frage/Stimulus zeilenweise neu justieren. Die Usability steigt hier meines Erachtens und es ist weniger anstrengend, weil es weniger Aufmerksamkeitslenkung bedarf. Ähnliches sollte auch bei Matrixfragen Sinn machen!

    Am “zu lang” und “zu langweilig” wird sich m.E. auch langfristig kaum etwas ändern. Die Fragebogen sind so lang, weil das ökonomisch attraktiv für die Wertschöpfungskette ist. Die Fragen stehen ohnehin im Raum, da bliebe nur das Aufteilen auf mehrere Fragebogen, was aber die Kosten deutlich ansteigen ließe und zudem die gekreuzte Analyse vieler Fragen verhindert.

    Und die Umfragen sind oft so langweilig – das schreibe ich mit einem kleinen Augenzwinkern – weil gerade die langweiligen Branchen sich gut zur quantitativ Forschung eignen und mit ihrem Tarif nicht ins Sensoriklabor können.

    Wie stehen die Chancen für einen panelanbieterübergreifenden “Industriestandard”, um die Online-Access-Panel-Branche langfristig (mit Qualität) am Leben erhalten zu können?

  5. 18. Dezember 2009, 13:41 | #5

    @Thomas Donath Hallo Herr Donath! Erst einmal vielen Dank für Ihren ausführlichen und interessanten Kommentar. Was mir hierbei wieder sehr deutlich wird: als Panelanbieter stehen wir quasi im unmittelbaren Spannungsfeld zwischen Institut (Wirtschaftlichkeit, möglichst viele Daten, Methodenansätze) und Umfrageteilnehmer (Spannung, Spaß, Kurzweil, …) und das ist unsere eigentliche Herausforderung:
    Die Interessen beider Gruppen bestmöglich zusammen zu bekommen. Und hier wird’s halt teilweise schwierig. Was man sich immer wieder verdeutlichen sollte: Der Proband nimmt im Grunde freiwillig an Umfragen teil. Er ist überhaupt erst Daseinsberechtigung für Institut, Panelanbieter und auch Markenartikel (da wir ohne den Konsumenten keine Konsumgüter-MaFo betreiben würden) und ihn werden wir nur bedingt dazu bringen, sich für langwierige Conjoints, öde Fragebögen etc. zu begeistern. Nimmt er daran also nicht mehr teil oder aber nur noch als s.g. Cheater/Durchklicker, dann ist es mit der Wirtschaftlichkeit bei Institut und Auftraggeber auch nicht mehr weit her, weil dann mittel- bis langfristig entweder keine oder eben nur sehr fragwürdige Daten erhoben werden können.

    Insofern ist natürlich jede Vereinfachung von Fragebögen durch Institute immer sehr willkommen. :-)

    Was genau meinen Sie mit dem Industriestandard?

  6. 29. Januar 2010, 13:14 | #6

    Hallo Herr Irmer,

    gerade lese ich, dass ein internationaler Standard “Access panels in market, opinion and social research — Vocabulary and service requirements” ohnehin gerade verabschiedet wurde: ISO 26362.

    Inwieweit dieser einen Teil der Probleme adressiert, würde mich interessieren. Vielleicht können Sie dies demnächst einschätzen?

    Zum Thema Conjoint: Da hab ich offen gesagt wenig Hoffnung, dass das bei uns so viel weniger wird :) Aber ab und an haben wir ja auch einmal für Verbraucher spannende Themen…

  7. 17. Februar 2010, 10:30 | #7

    @Thomas Donath
    Hallo Herr Donath,
    in der Tat beschäftigen wir uns gerade sehr mit dem Thema ISO 26362 – ich halte Sie auf dem Laufenden! Vorab aber schon mal mein erster Eindruck: Die Norm wird sicherlich dazu beitragen, Panels, so wie sie momentan funktionieren transparenter und vergleichbarer zu machen. Ob sie allerdings hilft, die angesprochenen Grundprobleme der Panels zu beheben, dass würde ich momentan eher nicht so sehen…

  1. 16. Dezember 2009, 15:12 | #1