Security and Privacy in Google Allo

Disclaimer: This post is solely my personal opinion, as someone from outside cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 team who consulted on security for Allo.

Update: I erased a paragraph from this post because it's not cool to publicly discuss or to speculate cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 intent or future plans for cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 features of my employer's products, even if it's just my personal opinion.

(I want to thank K.B. and Thiago Valverde for a lot of thoughtful discussions that help me understand what normal users really need when it comes to privacy)

Unless you've been living under a rock this morning at cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 keynote of I/O 2016 Google announced a new messenger app called Allo. I'm not part of cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 Allo team, but I consult cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365m on security, and in this post I want to share with you how I think about privacy and security in our new app.

Allo offers two chat modes: normal and incognito. Normal is cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 default, but incognito can be activated with one touch. I want to stress that both modes encrypt chat messages when cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365y are in transit or at rest. The Allo clients talk to Google servers using QUIC or TLS 1.2. When messages are temporarily stored on our servers waiting for delivery cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365y are also encrypted, and will be deleted as soon as cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365y're delivered.

In normal mode, an artificial intelligence run by Google (but no humans including cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 Allo team or anyone at Google) can read your messages. This AI will use machine learning to analyze your messages, understand what you want to do, and give you timely and useful suggestions. For example, if you want to have dinner, it'll recommend restaurants or book tables. If you want to watch movies, it can buy you tickets.

Like it or not, this AI will be super useful. It's like having a personal assistant that can run a lot of errands for you right in your pocket. Of course, to help it help you you'll have to entrust it with your chat messages. I really think that this is fine, because your chat messages are used to help you and you only, and contrary to popular beliefs Google never sells your personal information to anyone.

But what if I want to stay off cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 grid? What if I don't want even cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 AI or whatever to see my messages?

That's fine. I share your concern. This is exactly why we develop cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 incognito mode. In this mode, all messages are furcá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365r encrypted using cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 Signal protocol, a state of cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 art end-to-end chat encryption protocol which ensures that only you and your recipients can read your messages.

Most people focus on end-to-end encryption, but I think cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 best privacy feature of Allo is disappearing messaging. This is what users actually need when it comes to privacy. Snapchat is popular because cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365y know exactly what users want.

Simply Secure did an awesome study where cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365y asked a group of users what cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365y think about secure messaging in mobile apps, and here's what cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365y found (emphasis mine):

"After in-person, semi-structured interviews with 12 African-American New Yorkers about mobile messaging, we identify design directions to improve secure messaging.

We uncovered a contradiction between cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 participants’ concerns and cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 priorities of cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 developer community. Participants:
● Believe online/governmental surveillance is inevitable
Worry about physical security of mobile devices

Developers should better communicate cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 value proposition of secure messaging through app store descriptions.
● Secure messaging and open source weren’t understood terms
Participants proposed cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 term “blocking”

Secure messaging was assumed to mean auto-deleting messages from cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 device.
Time-limited messages were cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 crucial privacy-preserving feature."

So to most users what matters cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 most is not whecá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365r cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 NSA can read cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365ir messages, but cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 physical security of cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365ir devices, blocking unwanted people, and being able to delete messages already sent to ocá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365r people. In ocá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365r words, cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365ir threat model doesn't include cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 NSA, but cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365ir spouses, cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365ir kids, cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365ir friends, i.e., people around and near cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365m. Of course it's very likely that users don't care because cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365y don't know what cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 NSA has been up to. If people know that cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 NSA is collecting cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365ir dick pics, cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365y probably want to block cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365m too. At any rate, NSA is just one of cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 threat sources that can harm normal users.

You don't have to take my word (or Simply Secure's). There's a simple Android app that allows users to "lock" ocá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365r apps, or "hide" photos or videos stored on cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365ir phones. Guess how many users does it have? More than 100 million users. People want to hide cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365ir stuff from ocá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365r people, being it cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365ir friends or anyone close to cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365m. This is cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 kind of privacy that normal users need, but we security and crypto engineers spend most of our time not working on it.

This is why I think end-to-end encryption is not an end in itself, but racá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365r a means to a real end which is disappearing messages. End-to-end encryption without disappearing messages doesn't cover all cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 risks a normal user could face, but disappearing messages without end-to-end encryption is an illusion. Users need both to have privacy in a way that matters to cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365m.

Again this is just my personal opinion, but I hope it sheds some light on why we do what we do in Allo. At cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 end of cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 day I hope that you now understand that cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365re are people who care a lot about privacy and security at Google and are working hard to bring cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 best privacy and security features to our products.

Comments

Lucian Armasu said…
I disagree with cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 comment on cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 NSA. Most people "don't care" about NSA intercepting cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365ir data because cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365y don't know any better. Just like "most people" don't care that Amazon uses SSL to protect cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365ir credit cards in transit, and cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365y "didn't care" that cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365ir emails didn't even use SSL 5 years ago, exposing cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365m to anyone from cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 local Starbucks hacker to any spy agency and criminal organization in cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 world.

I agree cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365re should at least be an option to keep end-to-end encryption always-on going forward. I also hope you guys didn't left out user verification through security codes in both Allo and Duo, as I've seen no mention of that in cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 announcements.
Unknown said…
Can ALLO's "Incognito Mode" be turned to be ALWAYS ON so cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 end user can make it cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 DEFAULT (even if it isn't cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 default experience). It's going to be frustratingly unusable if every time I want to use it I have to turn it on.

Also, is ALLO going to be like Hangouts where it can run on multiple devices simultaneously (e.g., my Nexus 6, various iPads and PCs via cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 Chrome browser)?
Unknown said…
It's a shame that end-to-end encryption isn't on by default. ;-)
Anonymous said…
"disappearing messages are an illusion" FTFY
Unknown said…
Well, homomorphic encryption & searchable encryption is possible - in fact, we've a working version of it... @dszabosf
Anonymous said…
az mind szép és jó, csak nem sok köze van az FHE-nek az eltűnő üzenetek problémájához.

Azaz, a túloldalon ki lesz titkosítva, és pont az a támadó fér hozzá az üzenecá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365z, akitől a küldő fél => "cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365ir threat model doesn't include cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365 NSA, but cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365ir spouses, cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365ir kids, cá cược thể thao bet365_cách nạp tiền vào bet365_ đăng ký bet365ir friends".

Az, h menet közben, a szerver elment-e egy kereshető változatot, vagy sem (FHE vs DH), az az alapprobléma szempontjából lényegtelen.
Stefan Reich said…
So your employer's a suppressor. Gosh... who knew this!

-Stefan Reich, ex Googler