DEX文件格式分析

hahahawzb 8年前發布 | 7K 次閱讀 安卓開發 Android開發 移動開發

最近在寫個工具,主要功能是通過配置對 dex 文件中的類型、函數、屬性進行隱藏,達到防止被靜態分析的效果。所以在寫工具前必須對 dex 的文件格式有個清晰的認識,相對于 elf 文件格式 dex 文件格式會簡單一些。

0x00 前言

分析 dex 文件格式最好的方式是找個介紹文檔,自己再寫一個簡單的 demo 然后用 010Editor 對照著分析。

010Editor 這個工具比較好用,之前分析 elf 文件也是用的它。其實只要裝了模板,可以分析很多文件。雖然是收費軟件,有30天免費試用。 但是如果你用的是 mac :smirk: 試用期到了, 刪一下這個文件 ?? ~/.config/SweetScape/010 Editor.ini 。

0x01 文件布局

dex 文件可以分為3個模塊,頭文件(header)、索引區(xxxx_ids)、數據區(data)。頭文件概況的描述了整個 dex 文件的分布,包括每一個索引區的大小跟偏移。索引區的ids 是 identifiers 的縮寫,表示每個數據的標識,索引區主要是指向數據區的偏移。

010Editor 中除了數據區(data)沒有顯示出來,其他區段都有顯示,另外 link_data 在模板中被定為 map_list

0x02 header

header 描述了 dex 文件信息,和其他各個區的索引。010Editor(寫010Editor 有點麻煩下面直接寫010)中用結構體 struct header_item 來描述 header。

其中用到了兩種數據類型char、uint。這里的 char 是 C/C++ 中的char 占 8-bit, java 中的 char 是占 16-bit 有點區別,但是我們可以他來表示 short/ushort 這個以后介紹最近寫的工具會介紹。官方文檔是用 ubyte來定義的,那還是按官方的來吧。

結構體描述:

ubyte 8-bit unsinged int
uint  32-bit unsigned int, little-endian

struct header_item 
{
    ubyte[8]  magic;
    unit      checksum; 
    ubyte[20] signature; 
    uint      file_size; 
    uint      header_size; 
    unit      endian_tag; 
    uint      link_size; 
    uint      link_off; 
    uint      map_off;
    uint      string_ids_size; 
    uint      string_ids_off; 
    uint      type_ids_size; 
    uint      type_ids_off; 
    uint      proto_ids_size; 
    uint      proto_ids_off; 
    uint      method_ids_size; 
    uint      method_ids_off; 
    uint      class_defs_size; 
    uint      class_defs_off; 
    uint      data_size;
    uint      data_off; 
}

除了 magic、checksum、signature、file_size、endian_tag、map_off 其他元素都是成對出現的。_off 表示元素的偏移量,_size 表示元素的個數。其余的6個描述主要是 dex 文件的信息。

  • magic: 這個是固定值,用于識別 dex 文件。轉化為字符串為:

{0x64, 0x65, 0x78, 0x0A, 0x30, 0x33, 0x35, 0x00} = "dex\n035\0"

中間是一個換行,后面035是版本號。

  • checksum: 文件校驗碼,使用 alder32 算法校驗文件除去 maigc、checksum 外余下的所有文件區域,用于檢 查文件錯誤。

  • signature: 使用 SHA-1 算法 hash 除去 magic、checksum 和 signature 外余下的所有文件區域, 用于唯一識別本文件 。

  • file_size: dex 文件大小

  • header_size: header 區域的大小,目前是固定為 0x70

  • endian_tag: 大小端標簽,dex 文件格式為小端,固定值為 0x12345678 常量

  • map_off: map_item 的偏移地址,該 item 屬于 data 區里的內容,值要大于等于 data_off 的大小,處于 dex 文件的末端。

0x03 string_ids

string_ids 區段描述了 dex 文件中所有的字符串。格式很簡單只有一個偏移量,偏移量指向了 string_data 區段的一個字符串:

上述描述里提到了 LEB128 ( little endian base 128 ) 格式,是基于 1 個 byte 的一種不定長度的編碼方式。若第一個 byte 的最高位為1,則表示還需要下一個 byte 來描述,直至最后一個 byte 的最高位為 0。每個 byte 的其余 bit 用來表示數據,如下表所示。實際中 LEB128 最大只能達到 32-bit 可以閱讀 dalvik 中的 Leb128.h 源碼看出來。

數據結構為:

ubyte    8-bit unsinged int
uint     32-bit unsigned int, little-endian
uleb128  unsigned LEB128, valriable length

struct string_ids_item
{
    uint string_data_off;
}

struct string_data_item 
{
    uleb128 utf16_size;
    ubyte   data; 
}

其中 data 保存的就是字符串的值。string_ids 是比較關鍵的,后續的區段很多都是直接指向 string_ids 的 index。在寫工具進行比較的時候也需要提取到 string_ids。

0x04 type_ids

type_ids 區索引了 dex 文件里的所有數據類型,包括 class 類型,數組類型(array types)和基本類型

(primitive types)。區段里的元素格式為 type_ids_item,結構描述如下 :

uint 32-bit unsigned int, little-endian

struct type_ids_item
{
    uint descriptor_idx;  //-->string_ids
}

type_ids_item 里面 descriptor_idx 的值的意思,是 string_ids 里的 index 序號,是用來描述此 type 的字符串。

0x05 proto_ids

proto 的意思是 method prototype 代表 java 語言里的一個 method 的原型 。proto_ids 里的元素為 proto_id_item,結構如下:

uint 32-bit unsigned int, little-endian 

struct proto_id_item
{
    uint shorty_idx;        //-->string_ids
    uint return_type_idx;    //-->type_ids
    uint parameters_off;
}
  • shorty_idx: 跟 type_ids 一樣,它的值是一個 string_ids 的 index 號 ,最終是一個簡短的字符串描述,用來說明該 method 原型。

  • return_type_idx: 它的值是一個 type_ids 的 index 號 ,表示該 method 原型的返回值類型。

  • parameters_off: 指向 method 原型的參數列表 type_list,若 method 沒有參數,值為0。參數列表的格式是 type_list,下面會有描述。

0x06 field_ids

filed_ids 區里面有 dex 文件引用的所有的 field。區段的元素格式是 field_id_item,結構如下:

ushort 16-bit unsigned int, little-endian 
uint   32-bit unsigned int, little-endian 

struct filed_id_item
{
    ushort class_idx;  //-->type_ids
    ushort type_idx;   //-->type_ids
    uint   name_idx;   //-->string_ids
}
  • class_idx: 表示 field 所屬的 class 類型,class_idx 的值是 type_ids 的一個 index,并且必須指向一個 class 類型。

  • type_idx: 表示本 field 的類型,它的值也是 type_ids 的一個 index 。

  • name_idx: 表示本 field 的名稱,它的值是 string_ids 的一個 index 。

0x07 method_ids

method_ids 是索引區的最后一個條目,描述了 dex 文件里的所有的 method。method_ids 的元素格式是 method_id_item,結構跟 fields_ids 很相似:

ushort 16-bit unsigned int, little-endian 
uint   32-bit unsigned int, little-endian 

struct filed_id_item
{
    ushort class_idx;  //-->type_ids
    ushort proto_idx;   //-->proto_ids
    uint   name_idx;   //-->string_ids
}
  • class_idx: 表示 method 所屬的 class 類型,class_idx 的值是 type_ids 的一個 index,并且必須指向一個 class 類型。<font color=red>ushort類型也是為什么我們說一個 dex 只能有 65535 個方法的原因,多了必須分包</font>。

  • proto_idx: 表示 method 的類型,它的值也是 type_ids 的一個 index。

  • name_idx: 表示 method 的名稱,它的值是 string_ids 的一個 index。

0x08 class_defs

class_def 區段主要是對 class 的定義,它的結構很復雜,看的我有點暈,一層套一層。先看一張 010 的結構圖:

看著都暈,別說解析的時候了。

class_def_item

class_def_item 結構描述如下:

uint   32-bit unsigned int, little-endian

struct class_def_item
{
    uint class_idx;         //-->type_ids   
    uint access_flags;        
    uint superclass_idx;    //-->type_ids
    uint interface_off;     //-->type_list
    uint source_file_idx;    //-->string_ids
    uint annotations_off;    //-->annotation_directory_item
    uint class_data_off;    //-->class_data_item
    uint static_value_off;    //-->encoded_array_item
}
  • class_idx: 描述具體的 class 類型,值是 type_ids 的一個 index 。值必須是一個 class 類型,不能是數組類型或者基本類型。

  • access_flags: 描述 class 的訪問類型,諸如 public , final , static 等。在 dex-format.html 里 "access_flags Definitions" 有具體的描述 。

  • superclass_idx: 描述 supperclass 的類型,值的形式跟 class_idx 一樣 。

  • interfaces_off: 值為偏移地址,指向 class 的 interfaces,被指向的數據結構為 type_list 。class 若沒有 interfaces 值為 0。

  • source_file_idx: 表示源代碼文件的信息,值是 string_ids 的一個 index。若此項信息缺失,此項值賦值為 NO_INDEX=0xffff ffff。

  • annotions_off: 值是一個偏移地址,指向的內容是該 class 的注釋,位置在 data 區,格式為 annotations_direcotry_item 。若沒有此項內容,值為 0 。

  • class_data_off: 值是一個偏移地址,指向的內容是該 class 的使用到的數據,位置在 data 區,格式為 class_data_item 。若沒有此項內容值為 0。該結構里有很多內容,詳細描述該 class 的 field、method, method 里的執行代碼等信息,后面會介紹 class_data_item 。

  • static_value_off: 值是一個偏移地址 ,指向 data 區里的一個列表 (list),格式為 encoded_array_item 。若沒有此項內容值為 0。

type_list

type_list 在 data 區段,class_def_item->interface_off 就是指的這里的數據。數據結構如下:

uint   32-bit unsigned int, little-endian

struct type_list
{
    uint       size;
    type_item  list [size] 
}

struct type_item
{
    ushort type_idx   //-->type_ids
}
  • size: 表示類型個數

  • type_idx: 對應一個 type_ids 的 index

annotations_directory_item

class_def_item->annotations_off 指向的數據區段,定義了 annotation 相關的數據描述,數據結構如下:

uint   32-bit unsigned int, little-endian

struct annotation_directory_item
{
    uint class_annotations_off;        //-->annotation_set_item
    uint fields_size;
    uint annotated_methods_size;
    uint annotated_parameters_size;

    field_annotation field_annotations[fields_size];
    method_annotation method_annotations[annotated_methods_size];
    parameter_annotation parameter_annotations[annotated_parameters_size];
}

struct field_annotation
{
    uint field_idx;
    uint annotations_off;    //-->annotation_set_item
}

struct method_annotation
{
    uint method_idx;
    uint annotations_off;    //-->annotation_set_item
}

struct parameter_annotation
{
    uint method_idx;
    uint annotations_off;    //-->annotation_set_ref_list
}
  • class_annotations_off: 這個偏移指向了 annotation_set_item 具體的可以看 dex-format.html 上的介紹。

  • fields_size: 表示屬性的個數

  • annotated_methods_size: 表示方法的個數

  • annotated_parameters_size: 表示參數的個數

class_data_item

class_data_off 指向 data 區里的 class_data_item 結構,class_data_item 里存放著本 class 使用到的各種數據,下面是 class_data_item 的結構 :

uleb128 unsigned little-endian base 128 

struct class_data_item
{
    uleb128 static_fields_size;
    uleb128 instance_fields_size;
    uleb128 direct_methods_size;
    uleb128 virtual_methods_size;

    encoded_field  static_fields[static_fields_size];
    encoded_field  instance_fields[instance_fields_size];
    encoded_method direct_methods[direct_methods_size];
    encoded_method virtual_methods[virtual_methods_size];
}

struct encoded_field
{
    uleb128 filed_idx_diff; 
    uleb128 access_flags;  
}

struct encoded_method
{
    uleb128 method_idx_diff; 
    uleb128 access_flags; 
    uleb128 code_off;
}

class_data_item

  • static_fields_size: 靜態成員變量的個數

  • instance_fields_size: 實例成員變量個數

  • direct_methods_size: 直接函數個數

  • virtual_methods_size: 虛函數個數

下面幾個就是對于的描述

encoded_field

  • method_idx_diff: 前綴 methd_idx 表示它的值是 method_ids 的一個 index ,后綴 _diff 表示它是于另 外一個 method_idx 的一個差值 ,就是相對于 encodeed_method [] 數組里上一個元素的 method_idx 的差值 。 其實 encoded_filed - > field_idx_diff 表示的也是相同的意思 ,只是編譯出來的 Hello.dex 文件里沒有使用到 class filed 所以沒有仔細講 ,詳細的參考 dex_format.html 的官網文檔。

  • access_flags: 訪問權限,比如 public、private、static、final 等。

  • code_off: 一個指向 data 區的偏移地址,目標是本 method 的代碼實現。被指向的結構是code_item,有近 10 項元素。

code_item

code_item 結構里描述著某個 method 的具體實現,它的結構描述如下:

struct code_item 
{
    ushort                         registers_size;
    ushort                         ins_size;
    ushort                         outs_size;
    ushort                         tries_size;
    uint                         debug_info_off;
    uint                         insns_size;
    ushort                         insns [insns_size]; 
    ushort                         paddding;             // optional
    try_item                     tries [tyies_size]; // optional
    encoded_catch_handler_list  handlers;             // optional
}

末尾的 3 項標志為 optional , 表示可能有 ,也可能沒有 ,根據具體的代碼來。

  • registers_size: 本段代碼使用到的寄存器數目。

  • ins_size: method 傳入參數的數目 。

  • outs_size: 本段代碼調用其它 method 時需要的參數個數 。

  • tries_size: try_item 結構的個數 。

  • debug_off: 偏移地址,指向本段代碼的 debug 信息存放位置,是一個 debug_info_item 結構。

  • insns_size: 指令列表的大小,以 16-bit 為單位。 insns 是 instructions 的縮寫 。

  • padding: 值為 0,用于對齊字節 。

  • tries 和 handlers: 用于處理 java 中的 exception,常見的語法有 try catch。

encoded_array_item

class_def_item->static_value_off 偏移指向該區段數據。

uleb128  unsigned LEB128, valriable length

struct encoded_array_item
{
    encoded_array value;
}

struct encoded_array
{    
    uleb128 size;
    encoded_value values[size];
}
  • size : 表示encoded_value 個數

  • encoded_value: 這個我也沒分析出來怎么搞得??

0x09 map_list

map_list 中大部分 item 跟 header 中的相應描述相同,都是介紹了各個區的偏移和大小,但是 map_list 中描述的更加全面,包括了 HEADER_ITEM 、TYPE_LIST、STRING_DATA_ITEM、DEBUG_INFO_ITEM 等信息。

010 中map_list 表示為:

數據結構為:

ushort 16-bit unsigned int, little-endian
uint   32-bit unsigned int, little-endian

struct map_list 
{
    uint     size;
    map_item list [size]; 
}
struct map_item 
{
    ushort type; 
    ushort unuse; 
    uint   size; 
    uint   offset;
}

map_list 里先用一個 uint 描述后面有 size 個 map_item,后續就是對應的 size 個 map_item 描述。 map_item 結構有 4 個元素: type 表示該 map_item 的類型,Dalvik Executable Format 里 Type Code 的定義; size 表示再細分此 item,該類型的個數;offset 是第一個元素的針對文件初始位置的偏移量; unuse 是用對齊字節的,無實際用處。

 

來自:https://segmentfault.com/a/1190000007652937

 

 本文由用戶 hahahawzb 自行上傳分享,僅供網友學習交流。所有權歸原作者,若您的權利被侵害,請聯系管理員。
 轉載本站原創文章,請注明出處,并保留原始鏈接、圖片水印。
 本站是一個以用戶分享為主的開源技術平臺,歡迎各類分享!