Vad en AI-app som ansvarspartner faktiskt borde göra

Sök på "AI accountability partner app" och det mesta som dyker upp är program som hindrar dig från att använda telefonen, räknar hur många timmar du lagt på Reddit, eller parar ihop dig med en främling som skriver till dig klockan 6 på morgonen om du inte loggat ditt träningspass. De här verktygen delar en tankemodell som fastnade i produktivitetskulturen för ungefär tio år sedan: sättet att få någon att göra svåra saker är att lägga på press, lägga på konsekvenser, lägga på övervakning. Mer motstånd mot att misslyckas, mer synlighet när det glider, mer skuld när inget händer.

Den modellen fungerar för en viss sorts person i en viss sorts situation. För nästan alla andra fungerar den inte. Det här inlägget argumenterar för en mjukare definition av hur AI-stöttat ansvar borde se ut, och för det vi försökte bygga på Nudge.

Hur ansvar mellan människor faktiskt fungerar

Innan vi går in på program är det värt att titta på hur ansvar fungerar mellan människor som är bra på det. Den användbara sortens ansvarspartner, den som faktiskt hjälper, gör några bestämda saker:

De kommer ihåg vad du sa att du skulle göra. När du nämnde saken på söndagen minns de den på onsdagen. Den här delen är enkel, och det är här de flesta sviker sina vänner. Du sa att du skulle dra igång projektet, och sedan tog ingen upp det igen på tre veckor.

De frågar vid rimliga tillfällen. Inte slumpmässigt, inte under middagen, inte när du syns vara stressad. När det finns en öppning i samtalet svänger de in och frågar "hur går det med saken?" med genuint intresse. Tajmingen spelar roll. Ett välplacerat "du, hur gick tisdagens samtal?" är användbart. Samma fråga klockan 23 när du försöker varva ner är irriterande.

De straffar dig inte när det glider. En bra ansvarspartner svarar inte på "jag har inte börjat" med besvikelse. De svarar med en genuin fråga: "Är det fortfarande rätt sak att göra? Vad står i vägen?" Målet är att lista ut om uppgiften fortfarande hör hemma på din lista, inte att få dig att må sämre över att du inte gjort den.

De uppmärksammar små framsteg. När du nämner att du har börjat lägger de märke till det. När du berättar att du blev klar blir de glada på ett sätt som inte är spelat. Bra ansvarstagande har en värme i sig.

De låter dig sluta. Den svåraste. En bra ansvarspartner vet att vissa mål förtjänar att släppas, och hjälper dig att släppa dem utan att du känner dig misslyckad. Varje uppgift på listan är inte värd att slutföra.

Lägg märke till vad som inte står på den här listan. Blockera dina appar. Ta ifrån dig telefonen. Publicera ditt misslyckande på sociala medier. Skapa skam. Det här är inte saker som bra mänskliga ansvarspartner gör, eftersom de inte fungerar. De ger kortsiktig lydnad och långsiktigt undvikande.

Vad de flesta appar för ansvarspartnerskap gör fel

De flesta program i den här kategorin ärver gymtränarmodellen för ansvar, som är ett smalt specialfall som inte går att generalisera. Den utgår från att:

Personen vet vad hen borde göra. Hen behöver bara tvingas att göra det. Det stämmer inte för det mesta moderna kunskapsarbetet, där halva problemet är att först lista ut vad som är rätt sak.

Personens problem är viljestyrka. Så programmet slåss med viljestyrkan åt dem, genom att blockera appar eller spärra innehåll. Det fungerar för bestämda beteenden (till exempel sociala medier under arbetstid) och misslyckas med nästan allt annat.

Mer motstånd ger bättre resultat. Att göra det svårare att göra fel sak är ett trubbigt verktyg. Det gör det också svårare att göra rätt sak när läget ändras. Program som blockerar Twitter under ditt fokuspass blockerar också Twitter när din chef skickar något brådskande.

Skuld är en bra motivator. Notisen som säger "du har inte slutfört dina uppgifter på 5 dagar" är gjord för att skapa obehag. Obehag motiverar visserligen vissa. Det får också de flesta att avinstallera appen. Skuldbaserade notiser landar särskilt illa hos ADHD-hjärnor.

Resultatet är en kategori av program som fungerar bra för en smal publik (mycket självgående personer som redan har mestadels bra vanor och vill ha extra efterlevnad) och misslyckas med alla andra. Alltså de flesta.

Den hårda modellen finns i några varianter. Overlord blockerar dina enheter och kan skriva till dina vänner när det glider. Nag Bot och Dewey hör av sig enligt ett schema. StickK och Beeminder får dig att satsa pengar på dina mål. Focusmate parar ihop dig med en främling för tyst samarbete. Var och en av dem fungerar för någon. Ingen av dem fungerar genom att komma ihåg vad du sa och fråga om det vid ett bra tillfälle.

Hur mjukare AI-ansvar skulle kunna se ut

Här är en definition som ligger närmare hur bra mänskligt ansvar faktiskt fungerar:

Det kommer ihåg vad du sa att du skulle göra. När du lade till en uppgift för tre dagar sedan och sa att du ville göra den "den här veckan", minns systemet på fredag morgon att veckan håller på att ta slut. Det väntar inte på att du ska märka det.

Det hör av sig vid bra tillfällen. Inte på en timer. När det finns en rimlig öppning. Efter att ett möte tagit slut, mitt på förmiddagen en lugn dag, när du öppnade appen för att leta efter något annat. En bra avstämning känns som att en vän kommer ihåg, inte som att en kalenderpåminnelse går av. Det är samma grundtanke som i vetenskapen om att bli knuffad vid rätt tidpunkt: tajming slår frekvens.

Det gör det lätt att svara ärligt. En mjuk ansvarsfråga har tre svar, inte ett. "Jag gjorde det" / "Jag gör det idag" / "Jag kommer inte att göra det, vi skippar den." Det tredje alternativet är det som de flesta ansvarsprogram inte erbjuder, och det är det som betyder mest. Ett bra system är villigt att låta dig ta bort saker från listan.

Det uppmärksammar små avslut. När du bockar av något är svaret varmt men inte överdrivet. Ingen konfetti, ingen press om "7:e veckan i rad!". Bara ett litet erkännande och lugn rörelse framåt.

Det skambelägger dig inte när det glider. Om du inte öppnat appen på fyra dagar lägger systemet inte skuld på dig när du kommer tillbaka. Det ställer bara om. "Det här ligger kvar på din lista. Det här har blivit gammalt. Vi tar nya tag." Att det glider är oftast en signal, inte en karaktärsbrist. Mer om varför det inte blir gjort.

Det är villigt att bli tystare. Det här är kanske det viktigaste. Program som försöker vara till verklig hjälp borde märka när notiserna inte landar och backa, i stället för att trappa upp. En app som tjatar hårdare när du drar dig undan har redan misslyckats med sitt jobb.

Det svåra med att bygga det här

Att bygga program för mjukt ansvar är svårare än att bygga blockeringsprogram, eftersom systemet måste göra bedömningar. När det ska höra av sig. Hur en fråga ska formuleras. När det ska trappa upp och när det ska backa. När en uppgift ska släppas.

Det vanliga svaret i produktdesign är att lägga ut allt det här som inställningar. "Hur hårda vill du ha påminnelserna?" Tre nivåer, användaren väljer. Problemet är att de flesta användare inte vet rätt svar i förväg och inte vill ställa in ännu en inställningspanel. Rätt svar är inte "vi lägger ut varje reglage". Det är "vi väljer bra standardlägen och justerar utifrån det vi ser".

Det kräver att systemet faktiskt är uppmärksamt. När avfärdar du påminnelser? När öppnar du appen av egen vilja? När bockar du av saker jämfört med när du låter dem bli gamla? Det är de signalerna som gör att ett mjukt ansvarssystem kan bete sig som en eftertänksam vän i stället för ett trubbigt larm.

Det kräver också verklig ödmjukhet inför vad program kan göra. En del av ansvaret, den del där en riktig människa faktiskt bryr sig om du fullföljer, går inte att återskapa i kod. Program kan efterlikna delen som kommer ihåg saker och delen med bra tajming. De kan inte efterlikna delen som bryr sig. En genomtänkt AI-produkt för ansvar borde vara ärlig med det.

Förbehållen

Det finns bestämda situationer där den hårda modellen är rätt.

Om du försöker bryta ett tvångsmässigt beteende (hetsa en viss app, dricka, ett visst spelmönster) är blockeringsprogram genuint användbara. Motståndet är hela poängen. En mjuk påminnelse kommer inte att hjälpa; en bestämd spärr gör det.

Om du har en ansvarsrelation med en mänsklig coach eller terapeut är programmets jobb att stötta den relationen, inte att ersätta den. Notiser som delar framsteg med en riktig människa är kraftfullare än notiser som bara knuffar dig.

Om du har ett mycket bestämt, mycket tidskritiskt åtagande (medicin, daglig diabetesloggning, uppgifter som en domstol ålagt dig) borde systemet vara strikt och inte backa, eftersom priset för att missa är högt. Mjukt ansvar är till för uppgifter där priset för en missad dag är "besvärligt", inte "medicinsk nödsituation". Det är ett annat produktproblem: påminnelser som inte försvinner förrän du gjort dem.

Var Nudge passar in

Nudge är inte en ansvarsapp i traditionell mening. Vi blockerar ingenting, vi parar inte ihop dig med en partner, vi publicerar inte dina missar någonstans. Men produkten försöker hålla den mjukare versionen av ansvar: den kommer ihåg vad du sa, den hör av sig vid rimliga tillfällen, och den är villig att låta dig släppa saker utan att du behöver må dåligt över det.

Vi blir också medvetet tystare med tiden. Målet är inte att maximera antalet notiser. Schemaläggaren är inställd på att gå nedåt, inte uppåt, allt eftersom den lär sig dina mönster och släpper uppgifter som inte får fäste. Om en uppgift legat på din lista i tre veckor och du ignorerat varje påminnelse tar planeraren intryck av det och frågar om den fortfarande hör hemma på listan.

Vi påstår inte att det här ersätter en bra mänsklig ansvarspartner. Sådana är sällsynta och värdefulla, och en eftertänksam vän som frågar "hur går det med projektet?" över middagen gör något som program inte fullt ut kan göra. Men för det dagliga jobbet med att komma ihåg vad du sa att du skulle göra, och höra av sig vid ett rimligt tillfälle utan att lägga skuld på dig, tycker vi att mjukt ansvar är en bättre modell än den blockerande och pressande som de flesta AI-ansvarsappar ärvde.

Poängen

Ansvar är inte samma sak som press. Det mest effektiva ansvaret mellan människor är varmt, minns saker, är tålmodigt och villigt att släppa taget. Program som kopierar gymtränarmodellen missar det. Program som försöker kopiera modellen med den eftertänksamma vännen får jobba hårdare, men de hjälper fler människor till slut.

Nudge är en påminnelseapp som kommer ihåg vad du sa utan att tjata om det. Gratis på iPhone och webben. Mer om att bygga en AI som vet när den ska hålla tyst, varför din uppgiftshanterare inte fungerar, och appar som hjälper dig att komma igång med uppgiften.