Wie een hotel boekt, leunt vaak op de sterren en samenvattingen op sites als Tripadvisor. Maar juist die automatisch gegenereerde samenvattingen blijken onbetrouwbaar. De Britse consumentenorganisatie Which? onderzocht de AI-samenvattingen van beoordelingen en concludeert dat ze negatieve ervaringen grotendeels wegpoetsen — en zelfs hotels met serieuze klachten als vrijwel vlekkeloos presenteren.
Kritiek verdwijnt in de samenvatting
Het probleem zit hem in de manier waarop de kunstmatige intelligentie de vele losse recensies samenbalt tot een kort, leesbaar overzicht. Volgens Which? verdwijnen daarbij de scherpe kantjes: klachten over hygiëne, veiligheid en zelfs ziekte na een verblijf komen in de samenvatting nauwelijks of niet terug. De lezer krijgt zo een veel positiever beeld dan de onderliggende beoordelingen rechtvaardigen.
Ter illustratie noemt de organisatie een hotel waarover in de reviews herhaaldelijk melding werd gemaakt van ernstige problemen, maar dat in de AI-samenvatting toch als bijna onberispelijk naar voren kwam. Voor een consument die snel een keuze wil maken, is dat misleidend: juist de waarschuwingssignalen worden weggefilterd.
Tripadvisor is het oneens
Tripadvisor herkent zich niet in de conclusies. Het bedrijf stelt dat zijn samenvattingen de betrouwbaarheid van de reviews juist bewaken en dat ernstige, veiligheidsgerelateerde signalen niet zomaar onder tafel verdwijnen. Which? houdt op basis van zijn onderzoek vast aan de eigen bevindingen. Daarmee staan de lezingen lijnrecht tegenover elkaar.
Bredere zorg over AI en reviews
De kwestie raakt aan een breder ongemak. AI-taalmodellen zijn getraind om vloeiende, evenwichtige en beleefde teksten te produceren. Dat kan er in de praktijk toe leiden dat scherpe kritiek wordt afgevlakt: het model kiest voor een neutrale, prettige toon en laat de felste negatieve punten vallen. Bij het samenvatten van reviews werkt dat averechts, want juist de uitschieters — de waarschuwingen — zijn voor de consument het belangrijkst.
Reviews zijn voor veel mensen een van de weinige onafhankelijke bronnen bij het kiezen van een hotel of restaurant. Als een laag AI daaroverheen de negatieve signalen dempt, verliest dat instrument zijn waarde. De bevindingen onderstrepen dat automatisch gegenereerde samenvattingen met de nodige argwaan moeten worden bekeken.
Wat je zelf kunt doen
Voor wie zeker wil zijn, blijft het advies simpel: laat je niet alleen leiden door een sterrengemiddelde of een AI-samenvatting, maar lees ook de recente, kritische recensies zelf. Zeker de laagst gewaardeerde beoordelingen geven vaak het scherpste beeld van wat er mis kan zijn. De menselijke tekst blijkt voorlopig een betrouwbaarder gids dan de machine die haar samenvat.
